AI가 이 공고를 요약해드릴게요!
토스에서 ML Engineer (Serving)을 채용합니다. 주요 업무는 대규모 ML 모델 서빙 시스템 구축 및 최적화이며, GPU 활용 경험과 모델 서빙 프레임워크에 대한 깊은 이해가 필요합니다.
Kubernetes 환경 경험과 성능 병목 현상 진단 및 최적화 경험이 있다면 우대합니다.
- 조직소개
- ML Engineer (Serving)은 ML 플랫폼 팀에 속하여, Data Scientist와 MLOps Engineer와 함께 일합니다.
- ML 기술을 통해서 토스팀의 문제를 해결하고, ML을 기반으로한 서비스와 제품을 토스팀에 제공합니다. 새로운 제품을 탐색하고 발굴하는 작업부터, 데이터 파이프라인, ML 모델링 및 서빙과 모니터링까지 유기적으로 커버하고 있습니다.
- 팀에서는 개인화 추천, 검색, 광고 최적화, 생성형 AI를 활용한 어플리케이션 개발, ML 전체 파이프라인의 효율성을 위한 플랫폼 개발, MLOps 인프라 구축 등의 업무를 진행하고 있습니다.
- 토스 데이터 조직에 대해 더 알아보고 싶다면?→토스 Data Division 위키
- 업무내용
- GPU를 활용하여 대규모 ML 모델 서빙 시스템을 설계하고 효율적으로 운영합니다.
- Tensorflow Serving, TorchServe, Triton, TensorRT 등 최신 서빙 프레임워크를 활용하여 모델 서빙 파이프라인 구축 및 최적화 합니다.
- 딥러닝 모델을 실시간 및 배치 환경에서 안정적으로 서빙하기 위한 아키텍처 설계합니다.
- 모델 서빙 과정에서 발생하는 성능 병목현상 분석하고 Data Scientist와 함께 최적화합니다.
- Kubernetes, Docker 등의 컨테이너 오케스트레이션 도구를 활용한 서빙 시스템 배포 및 관리합니다.
- 모델 서빙 시스템의 모니터링 및 로깅 체계 구축 및 운영합니다.
- 최신 기술 트렌드와 툴을 탐색하여 서빙 성능 및 안정성을 지속적으로 개선합니다.
- 지원자격
- GPU를 활용한 대규모 ML 모델 서빙 및 최적화 경험이 필요합니다.
- Tensorflow Serving, TorchServe, Triton, TensorRT 등 모델 서빙 프레임워크에 대한 깊은 이해가 필요합니다.
- Kubernetes 환경에서 시스템을 운영해본 경험이 있으면 좋습니다.
- 모델 서빙 환경에서의 성능 병목현상 진단 및 최적화 경험이 있으면 좋습니다.
- Kotlin, SpringBoot에 대한 경험이 있으면 좋습니다.
- 복잡한 문제를 이해하기 쉽게 설명 가능한 커뮤니케이션 역량을 갖춘 분이면 좋습니다.
- 다양한 상황에서 다양한 솔루션을 고민해보고, 최적의 방법을 찾을 수 있는 문제해결 능력을 갖추신 분일수록 좋습니다.
- 전형절차
서류 접수 > 직무 인터뷰 > 문화적합성 인터뷰 > 레퍼런스 체크 > 처우 협의 > 최종 합격