기업 채용 분석/업스테이지

[업스테이지] AI Engineer - LLM Serving Platform 공고 분석

대규모 GPU 클러스터에서 Upstage Solar LLM을 서빙하는 플랫폼을 설계·개발·운영하고 라우팅·스케줄링 로직과 관측 가능성(Observability) 체계를 만드는 LLM Serving 팀의 AI Engineer 공고입니다. 같은 팀의 LLM Inference Optimization 공고가 양자화와 커널 같은 추론 최적화 연구를 맡는다면, 이 공고는 그 기법이 돌아가는 서빙 플랫폼과 대규모 트래픽 운영을 맡고 채용 사이트의 직무 분류도 Software Engineering입니다. 필수 사항은 AI 모델 서빙 경험 3년 이상과 Kubernetes 기반 프로덕션 운영 경험 등입니다.

이 공고 분석은 2026년 10월 28일에 이뤄졌습니다. 이후 채용이 종료되었을 수 있습니다.

이 자리가 왜 생겼을까요

OpenRouter에 등록된 Solar Pro 4의 토큰 사용량은 1주일 만에 3,700억 개를 넘었다고 업스테이지가 2026년 8월 발표에서 밝혔습니다. 업스테이지는 같은 해 3월 AMD와의 협력 확대를 발표하며 AMD Instinct MI355 GPU 배치를 바로 시작한다고 적었습니다. 이 공고의 LLM Serving 팀은 대규모 GPU 클러스터 위에서 Solar를 가장 빠르고 안정적이며 비용 효율적으로 제공하는 서빙 플랫폼을 만들고, 대규모 트래픽을 처리할 라우팅·스케줄링 로직을 설계합니다. 사용량이 짧은 기간에 크게 늘어난 서비스에서 서빙 용량을 늘리고 요청 배분을 조정해 본 경험이 있다면 늘어난 트래픽 규모와 함께 그 과정을 설명할 수 있습니다.

업스테이지가 지금 어떤 사업에 집중하고 있는지는 업스테이지 채용 분석에서 이어서 볼 수 있습니다.

1하게 될 업무

  • 대규모 GPU 클러스터 환경에서 LLM 서빙 플랫폼을 설계·개발·운영합니다.

    이렇게 볼 수 있어요

    팀 목표가 latency·throughput·cost 사이의 trade-off를 최적화하는 서빙 아키텍처로 적혀 있습니다. 운영해 본 클러스터의 GPU 수와 동시 요청 규모에서 지연 시간과 비용 사이의 기준을 정해 설정을 고른 적이 있다면 그 선택이 바로 이 trade-off 판단입니다.

  • 대규모 트래픽을 효율적으로 처리하기 위한 라우팅·스케줄링 로직을 구현합니다.

    이렇게 볼 수 있어요

    업스테이지는 Solar Pro 4가 OpenRouter에 올라간 지 1주일 만에 토큰 사용량 3,700억 개를 넘었다고 밝혔습니다. 요청을 모델 복제본이나 GPU에 배분하는 로직을 직접 짜 봤다면 어떤 기준(대기열 길이, KV cache 사용량 등)으로 요청을 보냈는지 설명할 수 있습니다.

  • vLLM, SGLang 등 오픈소스 추론 런타임에 자체 확장 기능을 구현하며 높은 안정성과 성능을 확보합니다.

    이렇게 볼 수 있어요

    런타임을 설정해 쓰는 데서 그치지 않고 코드에 기능을 더하는 일입니다. 우대 사항의 오픈소스 LLM 프레임워크 기여와 같은 방향이라, 런타임 내부를 고친 커밋이나 PR이 있다면 무엇을 바꿨는지가 이 업무에 가장 가까운 증빙입니다.

  • Prefill/Decode Disaggregation, KV Cache offloading 등 최신 LLM 서빙 아키텍처를 프로덕션에 도입·운영합니다.

    이렇게 볼 수 있어요

    팀 소개는 Speculative Decoding과 Expert Parallelism까지 최신 추론 기법을 프로덕션에 적용하는 것을 목표로 적었습니다. 새 서빙 구조를 실험 환경이 아니라 실제 트래픽에 올리며 겪은 문제와 이전 구성으로 되돌린 기준이 있다면 그 판단 과정을 기술 인터뷰에서 꺼낼 수 있습니다.

  • 모니터링 및 관측 가능성(Observability) 체계를 구축하고 높은 가용성의 서비스를 운영합니다.

    이렇게 볼 수 있어요

    팀 소개는 높은 가용성을 보장하는 관측 가능성 체계를 라우팅·스케줄링 로직과 함께 설계한다고 적었습니다. 추론 서버의 지연 시간이나 GPU 사용률 지표로 장애를 먼저 알아채고 대응한 사례가 있다면 그때 본 지표와 대응 시간을 적어 둘 만합니다.

2자격 요건

  • 3년 이상의 AI 모델 서빙 경험이 필요합니다.

    이렇게 볼 수 있어요

    3년은 모델 서빙 경험으로 적혀 있고, 업무의 플랫폼 운영과 라우팅, 관측 체계 구축처럼 서빙을 받치는 일도 이 경력과 함께 적을 수 있습니다. 서빙한 모델과 트래픽 규모를 기간과 함께 밝혀 두면 업무와의 연결이 분명해집니다.

  • 최신 LLM 아키텍처 및 서빙 기술을 깊이 이해해야 합니다.

    이렇게 볼 수 있어요

    팀 목표에 Solar 모델의 구조적 특성을 고려한 최적화가 들어 있고, 업무 목록 밖의 팀 소개에는 Expert Parallelism도 있습니다. MoE처럼 구조가 다른 모델을 서빙하며 메모리 배치나 병렬화 방식을 바꿔 본 경험에서 이 이해가 드러납니다.

  • 실시간 AI 모델 추론 서비스를 개발하고 운영해 본 경험을 요구합니다.

    이렇게 볼 수 있어요

    배치 추론이 아니라 사용자 요청에 바로 응답하는 서비스입니다. 응답 시간 목표를 두고 운영한 서비스라면 그 목표와 실제 수치가 이 요건에 대한 가장 직접적인 근거입니다.

  • AWS, Azure 등 클라우드 서비스를 이용한 제품 개발·운영 경험이 필요합니다.

    이렇게 볼 수 있어요

    우대 사항에 멀티 리전 글로벌 서비스 운영이 있고, 회사는 2025년에 미국 본부를 열었다고 밝혔습니다. 클라우드에서 GPU 인스턴스를 확보하고 리전별로 서비스를 배치해 본 경험은 이 요건과 우대 사항에 함께 쓰입니다.

  • Kubernetes 기반 워크로드를 프로덕션에서 운영해 본 경험이 필요합니다.

    이렇게 볼 수 있어요

    GPU 노드 위에서 추론 서버를 Kubernetes로 배포하고 확장하는 일이 업무의 서빙 플랫폼 운영 그 자체입니다. GPU 스케줄링이나 오토스케일링을 어떻게 설정했는지는 기술 인터뷰에서 나올 만한 주제입니다.

  • Golang, Python, Typescript, Java, C/C++ 등 하나 이상의 프로그래밍 언어를 높은 수준으로 이해해야 합니다.

    이렇게 볼 수 있어요

    업무에 런타임 확장 기능 구현과 라우팅 로직 구현이 함께 있습니다. 주로 쓴 언어로 서빙 경로의 어느 부분(게이트웨이, 스케줄러, 런타임 내부)을 만들었는지 밝혀 둘 수 있습니다.

  • 한국어 및 영어에 능통해야 합니다.

    이렇게 볼 수 있어요

    회사는 미국 본부를 두고 있고, 이 팀은 vLLM, SGLang 같은 오픈소스 런타임에 기능을 기여합니다. 영어로 이슈나 PR 논의를 해 본 기록이 있다면 링크로 보여 줄 수 있습니다.

3우대 사항

  • 멀티 리전에서의 글로벌 서비스 운영 경험을 우대합니다.

    이렇게 볼 수 있어요

    Solar Pro 4는 OpenRouter 같은 글로벌 개발자 플랫폼에 올라 있습니다. 여러 리전에 서빙 거점을 두고 트래픽을 나눠 받거나 장애 때 다른 리전으로 넘긴 경험이 있다면 리전 수와 전환 방식을 적을 수 있습니다.

  • vLLM, SGLang, TensorRT-LLM, Transformers 등 오픈소스 LLM 프레임워크에 기여한 경험을 우대합니다.

    이렇게 볼 수 있어요

    오픈소스 추론 런타임의 확장 기능 구현이 업무에 있어 기여 경험은 입사 뒤 할 일과 같은 종류입니다. 머지된 PR마다 무엇을 고쳤는지 한 줄 설명을 붙인 링크 목록이 이 우대에 대한 직접적인 근거가 됩니다.

  • 대규모 GPU 클러스터 운영 경험을 우대합니다.

    이렇게 볼 수 있어요

    업무 첫 항목이 대규모 GPU 클러스터 환경의 서빙 플랫폼입니다. 운영한 GPU 수와 종류, 노드 장애를 다룬 방식은 이 업무의 규모를 가늠하는 정보입니다.

  • CUDA, Triton 등 GPU 커널 수준의 성능 최적화 경험을 우대합니다.

    이렇게 볼 수 있어요

    팀 목표에 커널 수준 최적화를 통한 토큰당 추론 비용 절감이 있습니다. 플랫폼 담당이라도 커널을 고쳐 처리량을 올려 본 경험이 있다면 전후 수치로 보여 줄 수 있습니다.

  • NVIDIA 외 하드웨어(AMD GPU, TPU, NPU 등)에서 모델을 서빙한 경험을 우대합니다.

    이렇게 볼 수 있어요

    업스테이지는 2026년 3월 AMD Instinct MI355 GPU 배치를 바로 시작한다고 발표했습니다. AMD GPU나 NPU에서 모델을 서빙하며 런타임이나 드라이버 차이를 다뤄 본 경험이 있다면 다룬 하드웨어와 바꾼 설정을 구체적으로 적을 수 있습니다.

  • AI 모델 연구/개발 경험과 모델 양자화 및 경량화 연구/개발 경험을 우대합니다.

    이렇게 볼 수 있어요

    팀 목표의 양자화·경량화가 토큰당 추론 비용과 이어져 있습니다. 양자화한 모델을 서빙에 올리며 정확도와 처리량을 함께 확인해 본 경험은 연구가 아니라 서빙 쪽에서 다룬 경량화라 이 공고와 맞습니다.

4기타 사항

  • 게시일 : 2026년 5월 9일
  • 고용형태 : 정규직
  • 근무지 : 서울특별시 강남구 테헤란로7길 22 한국과학기술회관 2관 (추정)
  • 경력 조건 : 경력 3년 이상
  • 학력 조건 : 해당 내용은 원본 공고에서 확인되지 않습니다.

쓰는 기술

공고 본문에 적힌 기술만 모은 목록입니다.

  • vLLM
  • SGLang
  • TensorRT-LLM
  • Transformers
  • Kubernetes
  • AWS
  • Azure
  • Golang
  • Python
  • Typescript
  • Java
  • C/C++
  • CUDA
  • Triton

전형과 지원

업스테이지의 기본 영입 절차는 다섯 단계이고, 채용 FAQ는 서류 전형부터 최종 합격까지 약 4~5주가 걸린다고 안내합니다. 공고마다 과제와 인터뷰 구성이 달라서 지원할 공고의 모집 절차를 따로 확인해야 합니다.

  • 다섯 단계

    서류 전형, 업무역량 인터뷰, 컬처 인터뷰, 최종 인터뷰, 최종 합격 순입니다. 직무에 따라 업무역량 인터뷰 전에 코딩테스트나 과제테스트, 체크업 세션이 있을 수 있고, 최종 인터뷰 뒤에는 필요하면 레퍼런스 체크를 합니다. 단계별 결과는 가급적 1주일 이내에 알려 준다고 적었습니다.

    이렇게 볼 수 있어요

    공고별 모집 절차에는 업무역량 인터뷰 자리에 기술 인터뷰, 롤매칭 인터뷰, 협업 인터뷰 같은 이름이 적혀 있고 붙는 테스트도 다릅니다. 다른 회사와 일정을 맞춰야 한다면 지원할 공고의 절차를 기준으로 계산하는 편이 정확합니다.

    업스테이지 채용 안내(Hiring)

  • 컬처 인터뷰

    협업 문화와 일하는 방식에 관한 지원자의 경험과 생각을 이야기하는 단계라고 안내하며, 업스테이지 웨이를 반드시 확인하라고 적었습니다. 인턴은 컬처 인터뷰까지 진행한 뒤 최종 결과를 발표합니다.

    이렇게 볼 수 있어요

    회사는 Upstage Way 다섯 항목을 이 단계의 기준으로 안내합니다. 항목마다 그에 맞는 경험을 하나씩 정리해 두면 이 인터뷰를 미리 준비할 수 있습니다.

    업스테이지 채용 안내(Hiring)

  • 재지원과 중복 지원

    같은 직무에 다시 지원하려면 불합격 뒤 6개월을 기다려야 하고, 다른 직무라면 바로 지원할 수 있습니다. 여러 직무에 함께 지원할 수 있고 결과는 직무마다 따로 안내합니다.

    이렇게 볼 수 있어요

    제한이 직무 단위로 걸리므로 비슷한 공고가 여러 건이면 어느 공고에 먼저 지원할지 정해 두는 편이 좋습니다.

    업스테이지 채용 안내(Hiring)

  • 진행 방식과 제출 서류

    채용 FAQ는 모든 인터뷰를 구글밋 화상 미팅으로 진행하고 복장 규정은 없다고 적었습니다. 다만 사업개발·파트너 관리와 IR 공고 일부는 인터뷰 한 차례를 오프라인으로 진행할 수 있다고 적었습니다. 지원서는 지원한 직무의 현업 담당자가 직접 검토합니다. 학업과 업무를 함께 하는 것은 허용하지 않으며, 졸업 예정자에게는 입사 희망 시점 2개월 전에 지원하라고 권합니다. 공고 하단에는 CV를 포함한 모든 제출 자료를 PDF로 올리고 연봉 정보나 주민번호 같은 민감 정보는 이력서에 적지 말라는 안내가 있습니다.

    이렇게 볼 수 있어요

    현업 담당자가 서류를 읽으므로 직무 용어와 구체적인 결과를 그대로 써도 전달됩니다. 졸업 전이라면 학기가 끝나는 시점과 입사 가능일을 지원서에 함께 밝혀 두면 일정 확인이 쉬워집니다.

    업스테이지 채용 안내(Hiring)

    • 이 공고만 다른 점

    • 서류 전형 뒤에 과제 테스트가 있고, 기술 인터뷰를 1차와 2차로 나눠 진행한 다음 컬처 인터뷰와 최종 인터뷰를 봅니다.

      회사 공통 절차보다 과제 테스트 한 단계와 기술 인터뷰 한 차례가 더 있습니다. 같은 팀 LLM Inference Optimization 공고의 절차에는 과제 테스트가 없어, 두 공고를 함께 보는 지원자라면 과제 준비 기간을 이 공고 일정에 더해 두는 게 좋습니다.

    지원 전 준비할 것

    1. 1

      운영한 서빙 플랫폼의 규모 숫자로 정리하기

      필수 사항이 AI 모델 서빙 3년과 실시간 추론 서비스 운영을 요구합니다. 운영한 모델, GPU 수, 초당 요청 수, 지연 시간 목표를 플랫폼 하나 기준으로 정리해 두세요.

    2. 2

      과제 테스트 시간 확보하기

      서류 전형 다음에 과제 테스트가 있고 공고는 과제 내용을 밝히지 않았습니다. Kubernetes 위에 vLLM이나 SGLang 서버를 띄우고 부하를 걸어 보는 정도의 실습으로 손을 풀어 둡니다.

    3. 3

      런타임 내부 코드 읽어 두기

      업무에 vLLM, SGLang 같은 오픈소스 런타임에 확장 기능을 구현하는 일이 있습니다. 스케줄러와 KV cache 관리 부분 코드를 읽고 직접 고쳐 본 지점을 기술 인터뷰에서 설명할 수 있게 정리합니다.

    머신러닝 엔지니어 지원을 준비한다면