[크래프톤] [AI Research Div.] ML Serving Engineer (5년 이상) 공고 분석

이 자리가 왜 생겼을까요

1하게 될 업무

• 프로덕션 수준의 대규모 모델 서빙 아키텍처를 설계하고 운영하며, 실제 인게임(In-game) 환경에 실시간으로 적용되는 LLM 서빙 인프라를 구축하고 운영을 안정화합니다.

  이렇게 볼 수 있어요

  게임 안에서 실시간으로 응답해야 하는 LLM이 서빙 대상입니다. 지연 시간 목표를 정해 두고 운영한 서비스라면 그 목표값과 실제 측정값을 나란히 적을 수 있습니다.

• GLM(Coding Agent)처럼 높은 성능과 즉각적인 반응성이 필요한 코딩 에이전트 서비스를 서빙하고 가속합니다.

  이렇게 볼 수 있어요

  게임 밖의 코딩 에이전트도 서빙 대상에 이름으로 적혀 있습니다. 응답 속도가 중요한 에이전트형 서비스를 서빙해 본 경험이 이 업무와 가장 가깝습니다.

• 리서치 본부 안에서 계속 나오는 여러 도메인의 최신 모델에 공통 서빙 체계를 세웁니다.

  이렇게 볼 수 있어요

  모델이 바뀔 때마다 서빙을 새로 만들지 않도록 공통 방식을 세우는 일입니다. 여러 모델을 한 플랫폼에 올려 본 경험이 있다면 몇 종류의 모델을 어떤 기준으로 묶었는지 밝히면 됩니다.

• 대규모 서빙 환경의 안정적인 운영을 모니터링하고 이슈를 실시간으로 탐지하는 통합 모니터링·로깅·알람 시스템을 만듭니다.

  이렇게 볼 수 있어요

  관측성(Observability)이 업무와 필수요건에 함께 나옵니다. 어떤 지표에 알람을 걸었고 그 알람으로 장애를 얼마나 일찍 잡았는지 숫자로 남아 있으면 이 업무를 해 본 경험이 확인됩니다.

• 무중단 모델 업데이트, 자동 롤백, 테스트 자동화를 위한 CI/CD와 GitOps 체계를 설계합니다.

  이렇게 볼 수 있어요

  모델을 바꿔 배포하는 과정이 서비스 중단 없이 이뤄져야 합니다. 모델 버전을 교체하다 문제가 생겨 되돌린 경험이 있다면 그때의 롤백 절차를 사례로 들 수 있습니다.

• 대규모 트래픽에서도 성능을 유지하면서 서빙 비용을 낮추는 최적화 방법론을 리서치하고 프로덕션에 적용합니다(TurboQuant, CacheBlend, FP8/INT4 양자화 등).

  이렇게 볼 수 있어요

  연구로 끝나지 않고 프로덕션 적용까지가 업무입니다. 양자화를 적용하며 품질 변화와 비용 절감을 함께 잰 결과가 있다면 숫자 그대로 경력기술서에 옮겨 둘 필요가 있습니다.

• KV Cache 효율화(GPU-CPU-Disk 간 Offloading/Loading과 공유 캐싱 체계), 동적 배치(Continuous Batching), PagedAttention 등 최신 LLM 서빙 최적화 기법을 고도화합니다.

  이렇게 볼 수 있어요

  같은 기법들이 필수요건의 메모리·연산 효율화 항목에 다시 나옵니다. 직접 도입한 기법을 골라 도입 전후의 처리량과 비용을 나란히 놓으면 무엇을 바꿨는지가 드러납니다.

2자격 요건

• 실제 대규모 트래픽이 발생하는 프로덕션 환경에서 AI/LLM 모델 서빙 시스템을 설계·구축·운영해 본 경험이 필요합니다.

  이렇게 볼 수 있어요

  실험 환경이 아니라 프로덕션 트래픽이 조건입니다. 서빙한 모델과 초당 요청 수, 사용자 규모를 경력 항목에 함께 밝혀 두세요.

• vLLM, TensorRT-LLM 등 고성능 LLM 추론 엔진을 실무에 적용해 시스템을 최적화하고 안정화한 경험이 필요합니다.

  이렇게 볼 수 있어요

  엔진을 써 본 것보다 적용해서 무엇을 개선했는지를 묻습니다. 엔진 설정을 바꿔 지연이나 처리량이 달라진 사례라면 바꾼 설정값과 결과를 나란히 적는 편이 좋습니다.

• KV Cache Offloading/Loading, PagedAttention, 양자화 등 메모리·연산 효율화 기법을 도입해 서빙 비용을 크게 줄이고 성능을 높여 본 경험이 필요합니다.

  이렇게 볼 수 있어요

  필수요건은 비용 절감을 결과로 요구합니다. 성능 지표와 별도로 절감액이나 줄어든 GPU 대수 같은 비용 쪽 숫자가 필요합니다.

• 장애와 지연 시간(Latency) 성능 이슈를 추론 엔진, 프레임워크, GPU 하드웨어 전반의 관점에서 깊이 분석하고 근본 원인을 개선해 본 노하우가 많아야 합니다.

  이렇게 볼 수 있어요

  분석 범위가 추론 엔진, 프레임워크, GPU 하드웨어 세 층에 걸쳐 있습니다. 장애 하나를 골라 원인이 어느 층에 있었고 어떤 순서로 좁혀 갔는지를 면접에서 말할 수 있어야 합니다.

• 서빙 안정성을 위한 모니터링·관측성(Observability) 체계와 배포 자동화(CI/CD) 환경을 직접 구축하고 고도화해 본 경험이 필요합니다.

  이렇게 볼 수 있어요

  업무의 모니터링·CI/CD 항목이 자격으로 다시 나옵니다. 요건의 동사가 '직접 구축하고 고도화'라서 다른 팀이 만든 체계를 쓰기만 한 경험과는 다릅니다.

• 해외 출장에 결격 사유가 없어야 합니다.

  이렇게 볼 수 있어요

  필수요건의 마지막 줄입니다. 출국에 제약이 있다면 지원 전에 확인이 필요합니다.

3우대 사항

• 구현을 넘어 아키텍처 수준에서 기술 의사결정을 주도하고, 특정 솔루션을 도입할 때 아키텍처 선정 이유와 비용·지연시간·안정성 같은 Trade-off를 정량적·정성적으로 이해하는 사람을 우대합니다.

  이렇게 볼 수 있어요

  도입한 솔루션마다 고르지 않은 대안과 그 이유까지 묻는 항목입니다. 비용과 지연시간을 숫자로 비교해 아키텍처를 정한 문서가 있다면 그 문서가 이 우대 사항에 가장 가까운 근거입니다.

• vLLM, LMCache 등 최신 오픈소스 서빙 프레임워크의 Contributor이거나 오픈소스 에코시스템에 기여해 본 경험을 우대합니다.

  이렇게 볼 수 있어요

  '이거나'로 이어져 있어 두 프레임워크가 아닌 오픈소스 기여도 이 항목에 적을 수 있습니다. 머지된 PR 링크가 있으면 기여 범위가 바로 보입니다.

• vLLM, TensorRT-LLM, PyTorch Dynamo, FlashInfer, NVIDIA Triton 등 고성능 LLM 추론 스택을 깊이 이해하고 Custom Kernel 개발과 CUDA 하위 레벨 가속을 다뤄 본 경험을 우대합니다.

  이렇게 볼 수 있어요

  엔진 설정을 넘어 커널 수준까지 내려가 본 경험을 따로 봅니다. 직접 작성한 커널이 있다면 어떤 연산을 얼마나 빠르게 만들었는지 숫자로 정리합니다.

4기타 사항

• 게시일 : 2026년 8월 18일
• 고용형태 : 정규직(수습 5개월, 처우 협의 결과에 따라 고용형태가 변경될 수 있음)
• 근무지 : 역삼 센터필드 West 타워
• 경력 조건 : 경력 5년 이상
• 학력 조건 : 해당 내용은 원본 공고에서 확인되지 않습니다.

쓰는 기술

공고 본문에 적힌 기술만 모은 목록입니다.

• vLLM
• TensorRT-LLM
• LMCache
• PyTorch Dynamo
• FlashInfer
• NVIDIA Triton
• CUDA
• GitOps

전형과 지원

크래프톤 공고는 고용형태가 네 갈래로 나뉘는데 제목만 봐서는 구분되지 않습니다. 지원 전에 공고 본문에서 먼저 확인할 것이 그것입니다.

지원 전 준비할 것

1. 1

   서빙한 모델과 트래픽 규모 적기

   필수요건 첫 줄이 대규모 트래픽 프로덕션에서의 서빙 경험입니다. 서빙한 모델 크기, 초당 요청 수, 목표 지연 시간을 경력기술서에 숫자로 정리합니다.

2. 2

   최적화 사례 하나를 전후 숫자로 정리하기

   양자화나 KV Cache 최적화를 적용한 사례 하나를 골라 적용 전후의 처리량, 지연 시간, GPU 비용을 나란히 적어 둡니다. 필수요건이 비용 절감을 결과로 요구합니다.

3. 3

   장애 하나를 층별로 설명하기

   필수요건은 장애와 지연 문제를 추론 엔진, 프레임워크, GPU 하드웨어 관점에서 분석한 경험을 묻습니다. 원인을 좁혀 간 순서를 말로 설명할 수 있게 연습합니다.

4. 4

   필수 서류 다섯 가지 준비하기

   필요 서류에 입사지원서, 자기소개서, 경력기술서, 성적증명서, 포트폴리오가 필수로 적혀 있습니다. 대학 성적증명서를 미리 발급해 두고, 포트폴리오에는 공개할 수 있는 범위의 서빙 아키텍처 자료만 담습니다.