Um mecanismo de inferência e runtime em C++ para executar modelos de LLM, fala e visão em celulares, wearables, dispositivos de casa inteligente e robôs.
6,1 mil519C++OtherAtualizado há 27 dias
#mobile-inference
Projetos open source sobre “mobile-inference”
Repositórios do GitHub selecionados relacionados a mobile-inference, com resumos de IA e métricas principais.
Ordenar:Adicionados recentemente
2 repositórios
Biblioteca para executar modelos de machine learning diretamente em celulares, sem chamadas de rede, usando o runtime ExecuTorch da Meta.
1,8 mil97TypeScriptOtherAtualizado há 5 horas