주요업무
[스펙터에서 주도하시게 될 임팩트]
1. 대규모 LLM 오케스트레이션 및 비동기 아키텍처 설계 (Core Challenge)
OpenAI, Anthropic 등 멀티 프로바이더 환경에서 모델 호출 계층을 설계하고, Rate Limit 및 대량 추론 요청 상황을 완벽하게 오케스트레이션 합니다.
AWS SQS 등 메시지 브로커를 활용해 이벤트 기반의 비동기 추론 파이프라인을 설계하며, Retry, DLQ, Backoff를 활용해 Queue 처리와 외부 LLM API 연동의 무결성을 보장합니다.
모델·프롬프트 버전에 따라 발생하는 토큰 비용과 지연시간을 추적하고, 캐싱·모델 라우팅·배치 처리로 최적화합니다.
2. AI 출력 품질을 지배하는 평가 체계 구축 (Quality Ownership)
Effy와 TEO의 출력 품질을 "좋아진 것 같다"가 아니라 숫자로 판정할 수 있는 평가(Evaluation) 체계를 설계하고 운영합니다.
프롬프트와 컨텍스트 구성을 코드처럼 버전 관리하고, 모든 변경이 품질에 미치는 영향을 회귀 검증하는 파이프라인을 구축합니다.
평판, 면접, 이력 데이터를 모델이 안정적으로 활용할 수 있는 컨텍스트로 구조화합니다.
3. AI 프로덕트를 지탱하는 B2B Enterprise SaaS 백엔드 설계
Java, Kotlin, Python, Spring Boot를 기반으로 스펙터 코어 서비스 및 AI 프로덕트의 백엔드 아키텍처를 주도적으로 설계합니다.
평판, 면접, 분석 리포트 등 핵심 데이터를 다루는 PostgreSQL 기반의 데이터 모델링을 수행하고, 복잡한 쿼리 최적화 및 성능 병목 현상을 해결합니다.
4. Serverless 인프라 운영 및 개발 생산성 고도화
AWS 환경(Lambda, SQS, CloudWatch, IAM, S3 등)에서 Serverless 기반의 안정적인 서비스 운영, 모니터링, 장애 대응을 수행합니다.
CI/CD 파이프라인 고도화, 코드 리뷰, 테스트 자동화를 통해 팀 전체의 엔지니어링 품질을 한 단계 끌어올립니다.
🛠️ 스펙터의 기술 스택 (Tech Stack)
- AI: OpenAI API, Anthropic API
- Backend: Java, Kotlin, Spring Boot, (Python)
- Database: PostgreSQL
- Infra: AWS (Lambda, SQS, S3, CloudWatch, IAM 등)
- CI/CD & Collaboration: GitHub Actions, GitHub