[업스테이지] AI Research Engineer - LLM Inference Optimization 공고 분석

이 자리가 왜 생겼을까요

1하게 될 업무

• LLM 추론의 latency, throughput, cost 간 trade-off를 최적화하는 시스템과 알고리즘을 설계·구현합니다.

  이렇게 볼 수 있어요

  이 업무에서는 세 지표를 함께 놓고 판단합니다. 응답 속도와 처리량 가운데 하나를 우선하면 다른 지표나 비용이 달라지므로, 그 판단을 수치로 설명하는 일이 업무의 중심입니다.

• 정확도 손실을 최소화하면서 최신 하드웨어의 추론 가속 효과를 높이는 모델 경량화(quantization, pruning, kv-cache compression 등) 파이프라인을 발전시킵니다.

  이렇게 볼 수 있어요

  업무의 중심은 경량화를 한 번 적용하는 것보다 반복해 쓰는 파이프라인을 키우는 데 있습니다. 정확도 하락을 어떻게 측정하고 허용 범위를 어떻게 정했는지가 질문으로 이어지기 쉽습니다.

• Speculative Decoding, Prefill/Decode Disaggregation, Expert Parallelism 등 최신 추론 기법을 연구하고 실제 프로덕션 환경에 적용합니다.

  이렇게 볼 수 있어요

  논문 속 기법을 운영 환경에 넣는 일까지 맡습니다. 실험에서 효과가 있던 기법이 프로덕션에서 달라졌던 경험이 있다면 그 차이를 설명하는 것이 좋은 사례가 됩니다.

• Upstage Solar 모델의 구조적 특성을 고려한 추론 최적화 기법을 연구하고 프로덕션에 적용합니다.

  이렇게 볼 수 있어요

  범용 최적화와 함께 자사 모델 구조에 맞춘 최적화를 따로 적었습니다. 특정 모델 구조에 맞춰 커널이나 서빙 설정을 바꿔 본 경험이 그런 최적화의 예입니다.

• 최신 연구를 빠르게 follow-up하고 실제 서빙 환경에서 가치를 검증합니다.

  이렇게 볼 수 있어요

  논문을 읽는 데서 끝나지 않고 서빙 환경에서 효과를 재는 일까지 포함됩니다. 최근 읽은 추론 논문 하나를 골라 직접 재현해 본 결과가 있으면 대화의 출발점이 됩니다.

• 토큰당 추론 비용을 계속 절감하고 프로덕션 환경에서 높은 비용 효율성을 달성합니다.

  이렇게 볼 수 있어요

  팀 목표가 비용 지표로 적혀 있습니다. 성공 여부를 토큰당 비용으로 재는 팀이라 이전 경험도 같은 단위로 설명할 때 비교가 쉽습니다.

2자격 요건

• 모델 추론 최적화 연구/개발 경험 3년 이상이 필요합니다.

  이렇게 볼 수 있어요

  3년은 모델 추론 최적화라는 분야로 범위가 정해져 있으므로, 추론 최적화를 맡은 기간을 따로 셀 수 있게 정리하는 편이 좋습니다.

• 최신 LLM 아키텍처와 추론 최적화 기술을 깊이 이해해야 합니다.

  이렇게 볼 수 있어요

  MoE나 attention 변형처럼 최근 아키텍처가 추론 비용에 어떤 영향을 주는지 설명할 수 있는 수준을 요구합니다.

• vLLM, SGLang, TensorRT-LLM, Text Generation Inference 등 LLM 추론 엔진을 써 본 경험과 내부 동작에 대한 이해를 요구합니다.

  이렇게 볼 수 있어요

  엔진을 쓰는 경험과 내부 구조 이해가 함께 적혀 있습니다. 엔진을 설정해 쓰는 수준을 넘어 스케줄러나 메모리 관리 방식을 설명할 수 있는 수준을 요구합니다.

• Model compression(quantization, expert pruning 등), KV cache optimization(quantization, eviction, offloading 등), GPU 프로그래밍(CUDA/Triton/TensorRT 등), ML/GPU 컴파일러 스택(XLA, torch.compile/Inductor, MLIR 등) 가운데 하나 이상을 깊이 이해하고 실무에서 다뤄 본 경험이 있어야 합니다.

  이렇게 볼 수 있어요

  네 분야 가운데 하나만 깊어도 요건을 충족합니다. 자신이 가장 깊은 분야를 하나 정해 그 안의 구체 작업을 자세히 적으면 요건과 바로 맞춰 볼 수 있습니다.

• Python, C/C++ 등 하나 이상의 프로그래밍 언어를 높은 수준으로 이해하고 있어야 합니다.

  이렇게 볼 수 있어요

  추론 엔진과 커널 작업이 함께 있어 Python과 C/C++ 가운데 어느 쪽을 주로 썼는지가 맡을 일의 범위를 정합니다.

• 최신 논문을 읽고 핵심 아이디어를 코드로 구현하는 능력을 봅니다.

  이렇게 볼 수 있어요

  업무의 최신 연구 follow-up이 자격 요건으로 다시 나옵니다. 논문을 구현한 공개 저장소는 이 능력을 보여 주는 직접 증빙입니다.

• 한국어와 영어에 능통해야 합니다.

  이렇게 볼 수 있어요

  한국어와 영어 모두 '능통'으로 필수 사항에 있어, 영어로 논문을 쓰거나 소통한 경험을 이력서에 구체적으로 적어 두는 편이 좋습니다.

3우대 사항

• ML/NLP 분야 국제 학회 논문 게재 경험(1저자 혹은 교신저자)을 'Strongly wanted'로 적었습니다.

  이렇게 볼 수 있어요

  우대 사항 가운데 이 항목에만 강조 표시가 붙어 있습니다. 필수 사항이 아니어서 논문이 없어도 지원할 수 있고, 1저자나 교신저자 논문이 있으면 이 항목을 충족합니다.

• vLLM, SGLang, TensorRT-LLM, Transformers 등 오픈소스 LLM 프레임워크에 기여한 경험을 우대합니다.

  이렇게 볼 수 있어요

  팀 소개에도 오픈소스 추론 런타임에 자체 확장 기능을 기여한다고 적혀 있습니다. 머지된 PR 링크가 기여를 보여 주는 증빙입니다.

• MoE, long-context, multimodal 모델의 서빙을 최적화한 경험을 우대합니다.

  이렇게 볼 수 있어요

  업무의 Expert Parallelism이 MoE 서빙과 연결됩니다. 세 종류 가운데 다뤄 본 모델과 그때 생긴 병목을 짝지어 적으면 경험의 범위가 보입니다.

• 대규모 분산 추론(Tensor/Pipeline/Expert Parallelism)을 설계·튜닝한 경험과 대규모 GPU 클러스터 환경에서 분산 학습/추론을 해 본 경험을 우대합니다.

  이렇게 볼 수 있어요

  단일 GPU 최적화와 여러 GPU에 나눠 돌리는 최적화를 구분해 봅니다. 사용한 GPU 수와 병렬화 방식을 함께 적으면 규모가 전달됩니다.

• 커스텀 CUDA/Triton 커널을 작성하고 최적화한 경험과 CUTLASS, NCCL, FlashAttention 등 저수준 라이브러리에 기여하거나 활용한 경험을 우대합니다.

  이렇게 볼 수 있어요

  커스텀 커널과 저수준 라이브러리는 추론 엔진보다 한 단계 아래의 작업입니다. 직접 쓴 커널이 기존 구현보다 얼마나 빨라졌는지를 숫자로 밝히면 설명이 짧아집니다.

• NVIDIA 외 하드웨어(AMD GPU, TPU, NPU 등)에서 추론을 최적화해 본 경험을 우대합니다.

  이렇게 볼 수 있어요

  NVIDIA GPU 밖의 하드웨어가 우대 사항에 따로 있습니다. CUDA가 아닌 소프트웨어 스택에서 추론을 돌려 본 경험이 있다면 이 항목에 맞춰 적을 수 있습니다.

4기타 사항

• 게시일 : 2026년 5월 9일
• 고용형태 : 정규직
• 근무지 : 서울특별시 강남구 테헤란로7길 22 한국과학기술회관 2관 (추정)
• 경력 조건 : 경력 3년 이상
• 학력 조건 : 해당 내용은 원본 공고에서 확인되지 않습니다.

쓰는 기술

공고 본문에 적힌 기술만 모은 목록입니다.

• vLLM
• SGLang
• TensorRT-LLM
• Text Generation Inference
• CUDA
• Triton
• TensorRT
• XLA
• torch.compile/Inductor
• MLIR
• Python
• C/C++
• Transformers
• CUTLASS
• NCCL
• FlashAttention

전형과 지원

업스테이지의 기본 영입 절차는 다섯 단계이고, 채용 FAQ는 서류 전형부터 최종 합격까지 약 4~5주가 걸린다고 안내합니다. 공고마다 과제와 인터뷰 구성이 달라서 지원할 공고의 모집 절차를 따로 확인해야 합니다.

지원 전 준비할 것

1. 1

   추론 최적화 3년을 작업 단위로 나누기

   필수 사항의 3년이 추론 최적화 경험으로 정해져 있습니다. 그 기간에 다룬 모델, 엔진, 기법을 작업 단위로 나누고 각각 latency나 비용을 얼마나 바꿨는지 숫자로 적어 두세요.

2. 2

   깊이 다룬 한 분야 고르기

   필수 사항은 네 분야 가운데 하나 이상을 요구합니다. 가장 자신 있는 분야 하나를 정해 두 차례 기술 인터뷰에서 내부 동작까지 설명할 수 있게 준비해 두세요.

3. 3

   논문과 오픈소스 기여 목록 정리하기

   우대 사항은 국제 학회 논문을 먼저 들고 오픈소스 기여를 그다음에 적었습니다. 논문, PR, 공개 저장소 링크를 한 목록으로 묶어 지원서에 넣어 두면 기여한 내용을 한곳에서 보여 줄 수 있습니다.