AI Infra研发工程师-上海/北京/深圳

1.GPU机型性能评估： 主导不同GPU芯片（含国产芯片及英伟达等国外AI芯片）的性能对比与适配评估，深入理解芯片架构并搭建配套的基准评估工具链； 2.训推框架开发与优化：基于云平台和业界常见训推框架，开发加速方案，满足公有云客户对性能的极致需求； 3.支持主流GPU和异构AI芯片，优化大模型推理性能，打造极致性能成本优势； 4.应用优化：参与重点项目POC和现网问题保障，分析性能瓶颈，快速定位和解决重点问题； 5.前沿技术探索：跟踪学术动态，将最新研究成果转化为框架功能，提升产品竞争力。 1.熟悉主流的大模型推理框架及其加速技术，如vLLM、SGlang、TensorRT-LLM等，熟练分析单机及分布式情况下的性能热点和优化手段； 2.熟悉业界主流开源模型结构，例如DeepSeek、Qwen、Wan、Flux等； 3.熟悉主流的训练框架和分布式框架，包括Megatron-LM、DeepSpeed、verL、LLama-factory等，熟悉常见的分布式并行策略，了解显存、通信与计算相关性能瓶颈和优化手段； 4.熟悉自动驾驶相关算法者优先，例如BEVformer、MapTRV2、SparseDrive、FlashOCC、Pointpillars等，熟练分析自驾场景的性能瓶颈和优化方案； 5.熟悉CUDA编程、高性能计算优化（如算子融合、通信优化）者优先； 6.熟悉NCCL、MPI等集合通信算法者优先； 7.工程经验上具备大型项目架构设计能力，能独立解决性能调优、多节点调试等复杂问题； 8.具备良好的沟通能力与团队协作精神，有强烈的技术热情者优先； 9.上述训练、推理至少要求熟悉一个场景；两者都熟悉者优化。