← Back to roles

LLM Serving Ecosystem Engineer (NPU Software Stack)

Rebellions

Posted Oct 29, 2026
Apply on Rebellions

Overview

Open roles
39
At this company
See all
Added in 30 days
2
At this company, still open

Skills named in this posting

  • Python
Ecosystem 파트는 각 컴포넌트가 하나의 서빙 스택으로 실제 고객 시나리오에서 동작하는지 검증해 release하고, 리벨리온 NPU를 vLLM, llm-d 등 오픈소스 서빙 생태계에 통합합니다. 반복 작업은 AI coding agent에게 맡기고, 사람은 검증 설계와 판단에 집중하는 방식으로 일합니다. Responsibilities and Opportunities • 통합 검증 및 Release • 컴포넌트 버전 조합을 자동 검증하는 CI 설계·운영 및 release 기준 수립 • 서빙 기능·출력 정확도 검증을 위한 효율적인 테스트 설계 • 의존성 관리 및 컨테이너 이미지 빌드, CI 소요 시간 단축 및 flaky test 관리 • 서빙 생태계 통합 및 성능 검증 • vLLM, llm-d, Kubernetes 기반 AI 플랫폼과의 통합 및 upstream 기여 • 분산 서빙(PD disaggregation, KV cache offloading 등) 성능 측정 및 회귀 원인 분석 • 테스트 인프라 • NPU 다중 노드 클러스터 기반의 안정적인 CI 환경 구축·운영 • 컴포넌트·버전·하드웨어·설정 단위로 회귀 지점을 좁히는 진단 체계 구축 Key Qualifications • Linux, Python, Shell script 활용에 능숙한 분 • 컨테이너·Kubernetes 환경에서의 빌드·배포·디버깅 경험 • CI/CD 파이프라인 구축 또는 운영 경험 • 변인 통제를 통해 재현 가능한 형태로 문제 원인을 좁혀 본 경험 • LLM 추론 서빙 또는 클러스터 인프라(네트워크, 스토리지, 가상화) 중 한 분야에 대한 깊은 이해 • Claude Code, Codex 등 AI coding agent를 실무에 활용하고 결과물을 검증할 수 있는 Ideal Qualifications • vLLM, llm-d 등 LLM 서빙 프레임워크 운영 또는 오픈소스 upstream 기여 경험 • 분산 LLM 서빙(병렬화, KV cache, PD disaggregation) 구성 및 성능 최적화 경험 • GPU/NPU 등 가속기 기반 테스트 인프라 구축·운영 경험 • RDMA 네트워크 또는 분산 스토리지 경험 • 재현·비교 가능한 성능 벤치마크 설계 경험 • CI 최적화, release 절차 정비, self-hosted runner 운영 경험 전형절차 • 서류전형 > On-line 인터뷰 > On-site 인터뷰(프로젝트 발표 포함) > Culture-fit 인터뷰 > 처우 협의 > 최종 합격 • 전형절차는 직무별로 다르게 운영될 수 있으며, 일정 및 상황에 따라 변동될 수 있습니다. • 전형 일정 및 결과는 지원 시 작성하신 이메일로 개별 안내드립니다. 참고사항 • 본 공고는 모집 완료 시 조기 마감될 수 있습니다. • 지원서 내용 중 허위사실이 있는 경우에는 합격이 취소될 수 있습니다. • 채용 및 업무 수행과 관련하여 요구되는 법령 상 자격이 갖추어지지 않은 경우 채용이 제한될 수 있습니다. • 보훈 대상자 및 장애인 여부는 채용 과정에서 어떠한 불이익도 미치지 않습니다. • 담당 업무 범위는 후보자의 전반적인 경력과 경험 등 제반사정을 고려하여 변경될 수 있습니다. 이러한 변경이 필요할 경우, 최종 합격 통지 전 적절한 시기에 후보자와 커뮤니케이션 될 예정입니다. • 채용 관련 문의사항은 아래 메일 주소로 문의바랍니다. • recruit@rebellions.ai

Apply on the employer's site

Original posting: rebellions.career.greetinghr.com

Apply on Rebellions

RISC-V ecosystem

Rebellions in the RISC-V ecosystem

AI processors · AI · KR · founded 2020

Same employer

View all 39