b4rtaz / distributed-llamaGitHubEthernet으로 여러 가정용 기기에 LLM 추론을 분산해 생성 속도를 높이는 C++ 도구입니다.AI·머신러닝#llm-inference#distributed-computing#tensor-parallelism#llama#cpp3.1천258C++MIT업데이트 11일 전