← Back to roles

LPU性能架构师 / LLM系统软件专家 (软硬协同设计方向)

RIVAI Technologies (Shenzhen) Co., Ltd

深圳CompilersKernel / LinuxPosted Feb 3, 2026
Apply on RIVAI Technologies (Shenzhen) Co., Ltd

Overview

Skills named in this posting

  • Vector / SIMD
  • Network-on-chip
  • C
  • C++
  • Python
  • MLIR
  • CUDA
  • PyTorch / TensorFlow
职位背景: 在睿思芯科发布的“灵羽”处理器中,我们引入了专为大模型计算设计的 LPU (LLM Processing Unit)。 为了确保下一代 LPU 能够领跑 AI 时代,我们需要一位能够“以终为始”的专家——从 LLM 算法的演进趋势出发,向下解构计算特征,通过精确的量化分析指导硬件架构迭代。同时,你也将负责挖掘当前 LPU 的极限性能,让算法在我们的芯片上飞起来。 核心职责: 1. 面向未来的软硬协同设计 (Forward-looking Co-Design) • 算法趋势解构: 深入研究 Transformer 及其变体(如 MoE, Mamba/SSM, Sparse Attention)的演进方向。分析未来算法对运算颗粒度 (Computation Granularity) 的需求变化(例如:从单纯的 GEMM 向不规则稀疏计算或特定的 Vector Ops 转变)。 • 量化性能建模 (Quantitative Analysis): ◦ 建立数学模型或仿真模型,对 LLM 推理过程中的 Data Movement (数据搬运) 进行量化分析。 ◦ 评估不同 NUMA Partition (非统一内存访问分区) 策略对超大参数模型(70B+)分布式推理的带宽效率和延迟影响。 ◦ 利用 Roofline Model 等工具,识别计算瓶颈与访存瓶颈,为下一代 LPU 的 SRAM 大小、NoC 拓扑、总线带宽提供数据支撑。 • 架构定义反馈: 基于分析结果,向芯片架构团队提出具体的 LPU 设计改进建议 2. LLM 推理与系统优化 (Inference Optimization) • 算子级优化: 针对当前的 LPU 架构,开发和优化高性能算子(Kernel)。利用流水线掩盖(Pipeline Hiding)和图融合(Graph Fusion)技术,极致压榨硬件算力。 • 数据流编排: 优化 KV Cache 的管理策略和 Attention 层的计算逻辑,最小化片外存储访问(Off-chip Memory Access)。 • 系统级调优: 解决多核/多片互联环境下的通信开销问题,设计高效的 Tensor Parallelism (TP) 和 Pipeline Parallelism (PP) 映射方案。 任职要求: • 学历背景: 计算机科学、电子工程、数学或物理相关专业硕士及以上学历(博士优先)。 • 核心能力: ◦ 深度理解 LLM: 不仅会用 PyTorch,更懂 Transformer 的底层数学原理。理解 Flash Attention、RoPE、MoE 路由机制等对硬件的具体算力需求。 ◦ 计算机体系结构: 深刻理解 GPU/TPU/NPU 架构,熟悉 Memory Hierarchy (存储层次)、SIMD/SIMT、Dataflow 以及 NoC 原理。 ◦ 量化分析能力: 善于使用工具(如 Python, C++, SystemC 或自研 Simulator)进行 Workload Characterization(负载特征分析)。 • 编程技能: 精通 C/C++ 和 Python。熟悉 CUDA、Triton 或其他高性能计算编程模型者优先。 • 软素质: 具备极强的抽象思维能力,能够从复杂的算法代码中提取出对硬件设计的指导原则 (Design Guidelines)。 加分项: • 有 NVIDIA GPU (CUDA/PTX) 或 Google TPU 等专用加速器的底层性能分析与优化经验。 • 发表过关于 AI 系统、编译优化(TVM/MLIR)或硬件架构(ISCA/MICRO/ASPLOS)的顶级会议论文。 • 熟悉 LLM 推理引擎(如 vLLM, TensorRT-LLM, Llama.cpp)的内部实现机制。 为什么加入我们? • 上帝视角: 在这里,你不再是被动适应硬件的程序员。你是定义硬件的人。你的分析将直接决定下一代“灵羽”处理器的形态。 • 技术制高点: 这是一个完美的交叉领域——你需要同时懂最前沿的 AI 算法和最底层的芯片架构。这种“全栈优化”**能力是目前行业极其稀缺的核心竞争力。

Apply on the employer's site

Original posting: rivai-ic.com.cn

Apply on RIVAI Technologies (Shenzhen) Co., Ltd

RISC-V ecosystem

RIVAI Technologies (Shenzhen) Co., Ltd in the RISC-V ecosystem

RISC-V International: Strategic

RISCIC is a chip company based on RISC-V open source technology that provides core processors for the Internet of Things.

  • RiVAI Technologies (Shenzhen) designs RISC-V processor and DSP IP
  • Announced the RiVAI V7 and RiVAI V9+ RISC-V Vector DSP IP family
  • Works with RIOS Lab to industrialise high-performance RISC-V processors, and has been recognised by RISC-V International for technical/community contributions

Same employer

View all 41