【grps接入trtllm】通过GPRS+TensorRT-LLM+Tokenizers.cpp实现纯C++版高性能OpenAI LLM服务，支持chat和function call模式，支持ai agent，支持分布式多卡推理，支持多模态，支持gradio聊天界面。

【深度学习模型部署框架】支持tf/torch/trt/trtllm/vllm以及更多nn框架，支持dynamic batching、streaming模式，支持python/c++双语言，可限制，可拓展，高性能。帮助用户快速地将模型部署到线上，并通过http/rpc接口方式提供服务。

Official code for "Heterogeneous Graph-based Framework with Disentangled Representations Learning for Multi-target Cross Domain Recommendation"

Official code for "Learning Positional Attention for Sequential Recommendation"

Official code for "Controllable Talking Face Generation by Implicit Facial Keypoints Editing"

【grps服务样例】包含c++、python自定义工程以及快捷部署样例。

【grps接入vllm】通过vllm LLMEngine Api实现LLM服务。

网易新闻推荐模型推理优化相关

easy-ngo是由网易传媒开发的基于Go语言的开发工具包，基于easy-ngo工具包，开发者可以快速构建高可用、大并发的应用。