한 줄 요약

온프레미스·멀티클라우드 GPU 쿠버네티스에서 대규모 LLM 분산 서빙 인프라를 설계할 플랫폼 엔지니어 (인프라 5년 이상)

주요 업무

온프레미스와 멀티 클라우드(AWS, GCP)를 아우르는 하이브리드 GPU Kubernetes 클러스터와 Istio, Cilium 기반 네트워크 환경 구축
GPU Operator 스택을 활용한 딥다이브 트러블슈팅과 선제적인 용량 계획으로 리소스 효율 달성
vLLM, SGLang 등 엔진을 다루고 NVIDIA Dynamo 기반 분산 추론 아키텍처 설계, K8s Custom Resource와 Operator 패턴으로 배포 자동화 체계 구축
LLM 분산 추론 시 노드 간 통신과 I/O 병목 해결을 위한 RDMA(IB/RoCE) 기반 고속 GPU 네트워크 설계, 대용량 모델 로딩과 KV Cache 관리에 최적화된 VAST 등 고성능 AI 스토리지 도입

자격 요건

5년 이상 또는 그에 준하는 인프라 역량으로 Kubernetes 기반의 공용 플랫폼을 직접 설계하고 운영해 본 분
대규모 GPU 클러스터 및 GPU Operator 스택 프로덕션 운영 경험
vLLM, SGLang 등 LLM 서빙 엔진을 활용한 대용량 트래픽 처리 및 분산 추론 인프라의 프로덕션 운영 경험
Python, Go 등을 활용한 인프라 자동화 또는 K8s CRD/Controller 패턴을 직접 구현해 시스템을 구조적으로 추상화해 본 분 (AI/ML 모델링 도메인 지식은 없어도 괜찮음)

기술 · 도구9개 전부

우대 사항