Moreh는 커스텀 커널부터 분산 서빙까지, AMD GPU, Tenstorrent 칩, 이기종 클러스터에서 최고의 추론 성능을 이끌어내는 풀스택 소프트웨어를 개발하고 있습니다.
[Why Moreh?]
1. 비(非) NVIDIA 가속기에서의 추론
: 커널부터 클러스터 프레임워크까지, AMD GPU에 최적화되고 Tenstorrent 칩에서의 추론을 가능하게 하는 풀스택 소프트웨어
2. 이기종 GPU 추론
: 벤더, 아키텍처, 세대가 다른 GPU를 하나의 추론 클러스터로 통합하여 데이터센터의 모든 칩 효율을 극대화
3. 추론 비용 최적화
: 칩 레벨 최적화, 통신 최적화, 멀티 벤더 인프라 활용을 통해 달러당 토큰 수를 극대화
훌륭한 동료들과 함께 Moreh의 다음 성장을 이끌어갈 분들의 관심과 지원 기다리겠습니다 :)