주요업무
• 백엔드 서버 및 모델서빙 서버를 클라이언트의 요구사항에 따라 분석하여 개발
• AI 모델 사양 변경에 따른 API 및 서빙 아키텍처 수정 및 대응
• Knative Eventing 기반의 비동기 워크플로우 관리 및 개선
• Docker, Knative 기반의 CI/CD 파이프라인 관리 및 고도화
• AI팀에 의해 개발 된 모델의 코드 품질 유지를 위한 코드리뷰, 테스트하고 서빙을 위한 패키징 및 배포 담당
• Langfuse를 활용한 API 모니터링 및 성능 최적화
기술 스택
• Python
• FastAPI
• Docker, Kubernetes, AWS (S3, EKS), Redis
• Knative (Serving, Eventing)
• Qdrant, Milvus
• Git, ArgoCD, Shell Script
• Langfuse