Tencent / KsanaLLMGitHubOpenAI 호환 API 서버를 제공하는 고성능·사용하기 쉬운 LLM 추론 및 서빙 엔진입니다.AI·머신러닝#llm-inference#llm-serving#cuda#pagedattention#tensor-parallelism55246C++Other업데이트 2개월 전