포지션 4. LLM Modeling Engineer (Agent Tuning / Distillation)

포지션 소개

모델의 지능을 제품 요구사항에 맞게 고도화하고, 서비스 가능한 비용과 속도로 실행될 수 있도록 모델 라이프사이클 전반을 책임지는 역할입니다. 가장 거대한 모델이 항상 정답은 아닙니다. 우리 팀은 요구되는 품질을 달성하면서도 GPU 자원을 최소화할 수 있는 '똑똑하고 가벼운 특화 모델'을 지향합니다. 에이전트 학습과 지식 증류를 통해 작은 모델이 큰 모델 수준의 에이전트 역량을 갖추도록 만들며, 인프라 및 추론 엔지니어와 긴밀하게 협업합니다.

주요 업무

• 에이전트 워크로드(Tool calling, JSON/Structured Output, 다단계 추론)에 특화된 고품질 학습 데이터를 구축하고 정제합니다.

• 합성 데이터(Synthetic Data) 생성 파이프라인을 구축해 데이터 부족 문제를 해결합니다.

• On-policy / Off-policy Distillation을 통해 대형 Teacher 모델의 역량을 작고 빠른 Student 모델로 이전하고, 태스크와 연산 예산에 맞는 최적의 증류 레시피를 수립합니다.

• RLHF, DPO 등 강화학습 및 선호도 학습 기법을 적용해 에이전트의 신뢰성과 행동 품질(Alignment)을 개선합니다.

• 스펙큘러티브 디코딩(Speculative Decoding)을 위한 Draft 모델을 학습하고 튜닝하여 추론 속도를 끌어올립니다.

• 에이전트가 복잡한 시나리오에서 어떻게 동작하는지, Teacher 대비 품질 격차가 어디서 발생하는지 정성적/정량적으로 진단하는 평가(Evaluation) 체계를 구축합니다.

• 최신 증류 및 학습 기법 논문을 리서치하고 프로덕션 환경에 맞게 구현하여 GPU 비용을 극적으로 낮춥니다.

자격 요건

• PyTorch 기반 딥러닝 모델 개발 및 Transformer 아키텍처의 내부 동작 원리를 깊이 이해하고 계신 분

• Hugging Face Transformers 등을 활용해 언어 모델 파인튜닝(SFT, PEFT) 파이프라인을 직접 다뤄본 실무 경험이 있는 분

• 텍스트 생성 모델의 정성적/정량적 평가 지표를 이해하고, 모델의 문제점을 진단할 수 있는 분

• 모델의 성능(품질)과 서빙 비용(GPU 메모리, 지연시간) 사이의 트레이드오프를 데이터로 판단할 수 있는 분

우대 사항

• [강력 우대] 지식 증류, 스펙큘러티브 디코딩, LLM Post-training 관련 AI 논문 게재 실적 또는 깊은 연구 경험이 있는 분

• On-policy / Off-policy Distillation 등 지식 증류 기법을 LLM에 직접 적용하고 품질을 분석해 본 경험

• PPO, DPO 등 강화학습을 활용한 언어 모델 정렬(Alignment)을 프로덕션 수준에 적용해 본 경험

• 도구 호출(Function Calling), 복잡한 추론(CoT)에 특화된 모델 학습 또는 합성 데이터 파이프라인 구축 경험

• vLLM 등 추론 엔진을 학습 루프에 결합한 On-policy 학습 파이프라인 구축 경험

• DeepSpeed, Megatron-LM, FSDP 등을 활용한 대규모 멀티 GPU 분산 학습 및 트러블슈팅 경험