우대사항
폐쇄망/온프레미스 환경에서의 인프라 구축·배포 경험 (오프라인 패키지·컨테이너 이미지 반입, 사설 레지스트리 운영 등)
vLLM, TorchServe, Triton 등 모델 서빙 프레임워크 사용 경험
LiteLLM 등 LLM 게이트웨이/프록시 구축·운영 경험
LLM API(Bedrock, OpenAI, Claude 등) 기반 서비스 운영 및 비용 최적화 경험
Kubernetes(EKS) 클러스터 구축·운영 경험
Terraform 등 IaC(Infrastructure as Code) 도구 사용 경험
GPU 인스턴스 기반 모델 학습·추론 환경 운영 경험
Prometheus, Grafana, CloudWatch 등 모니터링 도구 활용 경험
Qdrant, OpenSearch 등 벡터 DB 및 RAG 파이프라인 인프라 운영 경험
AWS 외 Railway, Vercel 등 다양한 클라우드/PaaS 환경 운영 경험
멀티테넌트 또는 고객사별 화이트라벨 배포 아키텍처 설계·운영 경험
시크릿 관리 및 키 로테이션, 접근 권한 체계 수립 경험
B2B SaaS 또는 스타트업 환경에서의 근무 경험
영어로 기술 문서 작성 및 업무 커뮤니케이션이 가능한 분