← Back to roles

大模型异构芯片推理适配调优工程师(深圳/北京/上海/杭州)

Tencent Technology (Shenzhen) Co., Ltd.

北京Posted Aug 11, 2026via generic-json
Apply on Tencent Technology (Shenzhen) Co., Ltd.
基于多种异构芯片,GPGPU/NPU/XPU等,协同算法和业务团队,主导分布式异构推理系统的开发设计与落地实现,聚焦低延时、高吞吐目标,使能多种异构芯片算力和攻克大规模推理系统工程化落地关键技术,主要包括; 1.模型适配:针对业界主流(如DeepSeek,Qwenxilie)和自研大模型进行多芯片适配; 2.精度调优:解决适配过程中模块和端到端精度异常现象; 3.系统性能调优:针对推理全链路进行性能Profiling剖析,确保关键算子、系统调度等状态,并通过系统工程优化等手段实现最优性能目标; 4.推理框架/引擎架构优化:针对多芯片架构关键特性,在推理框架层面进行专项优化,确保最优效果; 5.核心算子开发/调优:针对推理关键算子和场景,结合多种芯片微架构、硬件特点,进行针对性优化,提升底层计算/通信效率。

Source URL: http://careers.tencent.com/jobdesc.html?postId=2021416952777568256

大模型异构芯片推理适配调优工程师(深圳/北京/上海/杭州) at Tencent Technology (Shenzhen) Co., Ltd. — 北京 · RISC-V Jobs