Una app móvil de React Native que ejecuta modelos de lenguaje, conversión de texto a voz y herramientas directamente en el teléfono, sin conexión y sin cuenta.
9 mil+147 esta semana1 milTypeScriptMITBien mantenidoActualizado hace 21 horas
orailnoor/cross-platform-llm-client
Cliente de chat en Flutter que ejecuta modelos GGUF en el dispositivo en Android e iOS, o se conecta a las API en la nube de OpenAI, Anthropic, Gemini o Kimi.
Alternativa open source a:ChatGPT
- Estrellas
- 1,581
- Forks
- 329
- Issues abiertos
- 23
- Último commit
- hace 3 días
¿Qué es?
PrivateLM es un cliente de chat con IA multiplataforma creado con Flutter. Ejecuta inferencia local con LLM en Android e iOS mediante llama.cpp, integrado a través de un plugin personalizado de Flutter, con aceleración por GPU mediante Vulkan en Android y Metal en iOS. Los usuarios pueden descargar modelos GGUF al dispositivo y chatear sin conexión a Internet una vez que termina la descarga.
La misma interfaz también puede conectarse a proveedores en la nube, como OpenAI, Anthropic, Google Gemini y Kimi (Moonshot AI). Las llamadas a la nube se unifican para adaptarse a los distintos formatos de API. En la versión web solo está disponible el modo en la nube. Los chats y la configuración se almacenan localmente con Hive, y las claves de API se guardan en el dispositivo y solo se envían al proveedor elegido.
Al iniciarse por primera vez, la app comprueba la RAM del dispositivo y sugiere un tamaño de contexto y un límite de tokens. El chat multimodal admite texto e imágenes, con visión mediante modelos locales Qwen2-VL o proveedores en la nube compatibles. La vista de tareas para flujos de trabajo de varios pasos todavía está en desarrollo.
Funciones clave
- 01Ejecuta modelos GGUF en Android e iOS con aceleración por GPU.
- 02Permite cambiar a las API de OpenAI, Anthropic, Google Gemini o Kimi.
- 03Admite texto e imágenes, incluidos modelos locales de visión Qwen2-VL.
- 04Almacena los chats y la configuración localmente con Hive.
- 05Recomienda el tamaño de contexto y los límites de tokens según la RAM del dispositivo.
Casos de uso
- Chatear con un modelo local en el teléfono sin enviar datos a un servidor.
- Usar un solo cliente para alternar entre modelos en el dispositivo y API en la nube.
- Instalar por sideload una app privada de chat con IA en un iPhone o iPad mediante AltStore.
Inicio rápido
- 1
Instalar las dependencias de Flutter
flutter pub get - 2
Compilar el APK de depuración para Android
flutter build apk --debug - 3
Compilar la aplicación web
flutter build web --release
Antes de usarlo
- La inferencia local en el dispositivo solo está disponible en Android e iOS; la versión web funciona únicamente en la nube.
- Para compilar para iOS se necesita un Mac y hay que instalar la aplicación mediante AltStore. Las aplicaciones instaladas mediante sideload caducan al cabo de 7 días.
- Para compilar una versión de lanzamiento de Android, debes crear tu propia configuración de clave de firma.
En colecciones
Temas
Preguntas frecuentes
- ¿Qué es cross-platform-llm-client?
- Cliente de chat en Flutter que ejecuta modelos GGUF en el dispositivo en Android e iOS, o se conecta a las API en la nube de OpenAI, Anthropic, Gemini o Kimi. PrivateLM es un cliente de chat con IA multiplataforma creado con Flutter. Ejecuta inferencia local con LLM en Android e iOS mediante llama.cpp, integrado a través de un plugin personalizado de Flutter, con aceleración por GPU mediante Vulkan en Android y Metal en iOS. Los usuarios pueden descargar modelos GGUF al dispositivo y chatear sin conexión a Internet una vez que termina la descarga.
- ¿cross-platform-llm-client es gratuito? ¿Qué licencia tiene?
- cross-platform-llm-client es open source bajo la licencia MIT. Revisa los términos de la licencia antes de usarlo en productos comerciales.
- ¿cross-platform-llm-client sigue mantenido?
- Mantenimiento activo. El último commit de cross-platform-llm-client fue el 4 nov 2026.
- ¿Para qué puedo usar cross-platform-llm-client?
- Chatear con un modelo local en el teléfono sin enviar datos a un servidor. Usar un solo cliente para alternar entre modelos en el dispositivo y API en la nube. Instalar por sideload una app privada de chat con IA en un iPhone o iPad mediante AltStore.
- ¿Cómo se instala cross-platform-llm-client?
- Instalar las dependencias de Flutter: flutter pub get Compilar el APK de depuración para Android: flutter build apk --debug Compilar la aplicación web: flutter build web --release
- ¿Dónde consigo cross-platform-llm-client?
- El código fuente y las instrucciones de instalación están en GitHub: https://github.com/orailnoor/cross-platform-llm-client
Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.
Proyectos relacionados
Binding de React Native para ejecutar LLMs GGUF en el dispositivo en apps de iOS y Android con llama.cpp.
1,1 mil+4 esta semana135CMITBien mantenidoActualizado ayer
App de Google AI Edge para Android e iOS que permite probar LLMs open source y casos de uso de GenAI en el dispositivo, sin conexión.
25,2 mil+72 esta semana2,8 milKotlinApache-2.0Actualizado hace 20 horas
App de Android para chatear con modelos GGUF que se ejecutan localmente mediante llama.cpp o con proveedores remotos como OpenAI, Anthropic, Ollama y DeepSeek.
2,8 mil+1 esta semana307TypeScriptMITActualizado hace 9 días
Cliente de chat con IA multiplataforma que conecta LLM como OpenAI, Claude, Ollama y DeepSeek con servidores MCP.
2,2 mil210DartApache-2.0Actualizado hace 2 meses
Conjunto de paquetes de ROS 2 para ejecutar LLM basados en GGUF y modelos de visión y audio mediante llama.cpp dentro de nodos de ROS 2.
26850C++MITBien mantenidoActualizado hace 22 horas