Herramienta en C++ que distribuye la inferencia de LLM entre varios dispositivos domésticos conectados por Ethernet para acelerar la generación.
3,1 mil258C++MITActualizado hace 11 días
#distributed-llm
Proyectos open source sobre «distributed-llm»
Repositorios de GitHub seleccionados relacionados con distributed-llm, con resúmenes de IA y métricas clave.
Ordenar:Añadidos recientemente
1 repositorio