Ferramenta em C++ que distribui a inferência de LLM entre dispositivos domésticos conectados por Ethernet para acelerar a geração.
3,1 mil258C++MITAtualizado há 11 dias
#distributed-llm
Projetos open source sobre “distributed-llm”
Repositórios do GitHub selecionados relacionados a distributed-llm, com resumos de IA e métricas principais.
Ordenar:Adicionados recentemente
1 repositório