여러 ML 프레임워크의 예측형 및 생성형 AI 모델을 대규모로 배포하고 서빙하는 Kubernetes 네이티브 플랫폼입니다.
6.1천1.7천GoApache-2.0업데이트 12시간 전
#autoscaling
autoscaling 관련 엄선 GitHub 저장소. AI 요약과 주요 지표를 함께 제공합니다.
여러 ML 프레임워크의 예측형 및 생성형 AI 모델을 대규모로 배포하고 서빙하는 Kubernetes 네이티브 플랫폼입니다.
서버리스 AI 워크로드를 위한 오픈소스 Go 및 Python 런타임으로, GPU 추론 엔드포인트, 샌드박스, 백그라운드 작업을 지원합니다.