← Back to roles

微信 -WeLM 大模型推理优化工程师（深圳、上海）

Tencent Technology (Shenzhen) Co., Ltd.

北京Posted Aug 11, 2026
Apply on Tencent Technology (Shenzhen) Co., Ltd.

Overview

Tencent Technology (Shenzhen) Co., Ltd.
Open roles
2,249
At this company
See all
Added in 30 days
528
At this company, still open

Skills named in this posting

  • C++
  • Python
  • CUDA
  • PyTorch / TensorFlow
1. 模型推理服务优化： * 负责大语言模型（LLM）推理性能的优化，包括延迟降低、吞吐量提升和资源效率优化 * 开发和应用模型压缩技术（包括但不限于量化、稀疏化等） * 优化推理框架，支持多种硬件平台（GPU、专用AI芯片） * 设计并实现高效、稳定、可扩展的推理服务架构 2. 性能分析与调优： * 建立性能基准测试框架，持续监控和评估推理性能 * 分析性能瓶颈，提出并实施优化方案 * 针对不同应用场景（实时对话、批量处理等）定制优化策略 3. 技术创新与落地： * 跟踪最新研究成果，将前沿优化技术应用到生产环境 * 与算法团队合作，参与模型架构的推理友好设计 * 编写高质量的技术文档和最佳实践指南 1.必备条件：； 2.计算机、软件工程、人工智能等相关专业本科及以上学历； 3.扎实的 C++/Python 基础； 4.熟悉 PyTorch 或 JAX 等深度学习框架，了解模型训练与推理流程； 5.有 CUDA 编程或 GPU 性能调优经验，能使用 Nsight 等工具做 profiling； 6.了解常见 LLM 架构（如 Transformer、Attention、KV Cache）及推理优化思路； 7.具备良好的沟通与文档能力，能独立负责模块设计与实现。

Apply on the employer's site

Original posting: careers.tencent.com

Apply on Tencent Technology (Shenzhen) Co., Ltd.

RISC-V ecosystem

Tencent Technology (Shenzhen) Co., Ltd. in the RISC-V ecosystem

RISC-V International: Premier TSC

Tencent Holdings Ltd. is a Chinese multinational technology and entertainment conglomerate and holding company headquartered in Shenzhen.

  • Tencent joined RISC-V International as China pushed for open-instruction-set alternatives (widely reported)
  • Its TencentOS Tiny IoT operating system is used on RISC-V MCUs, e.g. tutorials pairing TencentOS Tiny with the GD32V RISC-V MCU
  • Also participates in Chinese RISC-V community events such as the RISC-V Forum in Shenzhen

Same employer

More roles at Tencent Technology (Shenzhen) Co., Ltd.

View all 2,249