주요업무
1. 대규모 AI 가속기 클러스터 아키텍처 설계 및 구축
• 이기종 AI 가속기(NVIDIA, AMD, Tenstorrent 등) 기반의 GPU, NPU 클러스터 인프라를 총괄 관리합니다.
• 서버 스펙 산정, GPU 클러스터 Rack 구조 설계, 전력 및 냉방 용량 산정을 통해 안정적이고 효율적인 데이터센터 인프라를 구축합니다.
• LLM 및 생성형 AI 모델 아키텍처에 따라 필요한 Token 처리 용량을 산정하고, 이를 인프라 설계에 반영합니다.
2. 인프라 최적화 및 고성능 컴퓨팅(HPC) 튜닝
• GPU 클러스터의 성능을 극대화하기 위해 Linux 커널 및 서버 하드웨어 성능을 최적화 합니다.
• GPU 간 초고속 통신을 위한 대규모 RDMA 네트워크를 구축하고, 가속기 드라이버 및 라이브러리를 최적화 합니다.
3. CI/CD 및 모니터링 체계 구축
• GPU 기반의 대규모 Kubernetes 클러스터를 설계, 배포 및 운영합니다.
• Terraform, Ansible 등 IaC 도구를 활용하여 인프라를 코드화하고 관리 효율성을 극대화합니다.
• GPU와 클러스터 상태를 실시간으로 추적하는 고도화된 GPU 클러스터 모니터링 시스템을 구축합니다.
• 모레 소프트웨어 스택의 효율적인 CI/CD 파이프라인 및 Git 형상 관리를 리드합니다.
4. 고성능 네트워크 및 분산 스토리지 관리
• InfiniBand, RoCEv2 등 초고속·저지연 네트워크망을 설계하고 관리합니다.
• Ceph, Vast Data 등 분산 스토리지를 안정적으로 운영합니다.