边缘AI推理研发工程师(深圳)
Tencent Technology (Shenzhen) Co., Ltd.
北京Posted Aug 11, 2026via generic-json
推理方向:
1.面向低延迟交互场景打造极致低延迟推理系统,通过调度、传输、计算优化,深度优化端到端推理延迟;
2.设计开发一站式 Serverless AI 推理平台,结合边缘云 Serverless 生态支持一站式边缘 AI 应用,提升实时语音交互等低延迟 AI 应用场景的用户体验;
缓存方向:
1.面向低延迟交互场景打造 KVCache 缓存系统,通过 KVCache 卸载、传输、压缩优化,深度优化端到端推理延迟,提升实时语音交互等低延迟 AI 应用场景的用户体验;
2.设计开发边缘推理 KVCache 平台,结合边缘云 Serverless 生态支持一站式边缘 AI 应用,通过 KVCache 复用、分层存储、跨请求共享等技术提升推理性能。
Source URL: http://careers.tencent.com/jobdesc.html?postId=2074084898423095296