大模型Infra技术研究员-(北京)or

1.负责大模型推理引擎架构设计、研发与迭代，深度适配主流GPU及异构AI芯片，优化推理性能与算力成本，搭建生产级PD分离推理调度系统，保障推理服务高并发、低延迟、高稳定； 2.搭建并优化多模态大模型训练底层基建，解决训练端显存管理、混合并行调度、跨节点通信同步痛点，完善算力调度与数据流水线，支撑模型高效稳定训练； 3.针对训练与推理场景核心技术难题，落地动态显存分配、KV Cache优化、变长序列批处理、通信优化、异构算力负载均衡等关键技术； 4.基于GPU与异构芯片架构，完成训练、推理全流程性能分析、算子及调度优化，推动优化方案工程化落地； 5.跟踪大模型Infra前沿技术，沉淀优化实践经验；参与vLLM、SGLang等开源项目协作，实现内部技术与开源生态双向赋能。