LLM 추론 가속을 위한 DSL 커널을 설계·최적화할 Sr. Compute Library Engineer (경력 8년 이상)
주요 업무
- vLLM 또는 PyTorch 기반 LLM 모델을 분석하여 당사 DSL로 필요한 가속 커널 작성
- Edge 디바이스 하드웨어 특성(메모리 계층, 연산 유닛 구조 등)을 고려한 커널 성능 최적화
- 당사 DSL 커널과 PyTorch(ATen operator) 연동 설계 및 구현
- 커널 정확도 검증, 벤치마크 설계 및 성능 분석
자격 요건
- 관련 분야 경력 8년 이상
- Python에 대한 이해 및 숙련도
- PyTorch 또는 주요 딥러닝 프레임워크 사용 경험
- 행렬 연산, attention 등 LLM 핵심 연산에 대한 이해
- 컴퓨터 아키텍처 기초(캐시, 메모리 대역폭, 파이프라이닝 등)에 대한 이해
우대 사항
- Edge/임베디드 환경의 메모리 및 연산 제약을 고려한 모델 최적화 경험
- Triton, TVMScript, Pallas 등 커널 DSL 활용 경험
- CUDA, ROCm 등 GPU 커널 최적화 경험
- vLLM, HuggingFace Transformers 등 LLM serving/inference 프레임워크 코드 분석 경험
- PyTorch custom extension(ATen op, torch.library) 개발 경험
근무 조건
- 근무지
- 서울
- 경력
- 경력
- 마감
- 상시 채용 · 마감일 없음
- 처음 확인
- 2026-11-06
이 요약은 회사 공고를 읽고 추린 것입니다. 지원 전에 회사 공고에서 원문을 확인하세요.
이 공고 점검 이력
11.06처음 확인
11.06 01:46확인 · 살아 있음