산업 현장 설비·센서 데이터의 스키마 표준을 정하고 수백 TB 데이터를 레이크하우스에 적재·정제해 AI 학습용 데이터셋을 구성할 Data Engineer 경력자 (5년 이상)
주요 업무
- 데이터 스키마 표준 수립 — 스키마 초안 설계, 참여 기관과 검토·확정, 버전·하위 호환 규칙과 스키마 진화 방식 관리
- 연차별 데이터 파이프라인 맵 작성 및 계보·재현성을 확인할 수 있는 구조 구축
- 학습용 데이터셋 구성 — Dataset Transformer, 자동 검증 규칙, 행동 라벨링 체계, 수요기업별 격리 데이터셋, 검색·질의 검증셋 설계 및 구성 설계서 정리
- 수백 TB 규모 데이터 적재·정제 — 선행 PoC로 570TB를 레이크하우스에 적재하고 결과를 다른 팀 설계에 반영
- 합성데이터, 품질 게이트, 자산 등록(AAS) API, 수집 어댑터 담당 팀과 스키마 협의·확정
자격 요건
- 데이터 엔지니어링 경력 5년 이상
- Avro 등으로 스키마를 설계하고 스키마 레지스트리와 하위 호환 규칙을 운영해 본 경험
- Apache Iceberg 등 레이크하우스 테이블(네임스페이스·파티션) 설계 및 Trino·Spark 조회, Kafka Connect 적재 경험
우대 사항
- 시계열 센서 데이터 전처리와 학습용 데이터셋 구성 경험
- PINN 등 물리 기반 모델이 요구하는 입력 형태(경계조건, 시계열 구조)에 대한 이해, 작업 단위·상태 전이 라벨 설계와 라벨 품질 검증 경험
- OpenLineage 등으로 데이터 계보·카탈로그를 구축하고 수요기업별 접근 제어와 감사 추적을 설계해 본 경험
- AAS(자산관리셸)나 지식그래프 연동 경험
- 다른 기관과 스키마를 협의해 확정해 본 경험
근무 조건
- 근무지
- 제공정보 없음
- 경력
- 경력
- 마감
- 상시 채용 · 마감일 없음
- 처음 확인
- 2026-11-13
이 요약은 회사 공고를 읽고 추린 것입니다. 지원 전에 회사 공고에서 원문을 확인하세요.
이 공고 점검 이력
11.13처음 확인
11.13 01:59확인 · 살아 있음