Guía paso a paso en chino y código de ejemplo para aprender sobre LLM, desde llamadas a API hasta despliegue local y fine-tuning, con versiones para Kaggle y Colab.
4,7 mil489PythonMITActualizado hace 8 días
datawhalechina/self-llm
Colección de tutoriales en chino para desplegar, usar y ajustar LLM de código abierto y modelos multimodales en Linux, con guías de fine-tuning completo, LoRA y P-tuning.
- Estrellas
- 32,533
- Forks
- 3,136
- Issues abiertos
- 163
- Último commit
- el mes pasado
¿Qué es?
self-llm es un proyecto de tutoriales en chino para principiantes que quieren ejecutar modelos de lenguaje grandes de código abierto en sus propias máquinas Linux. Explica cómo configurar el entorno, realizar despliegues locales, usar modelos desde la línea de comandos y en demos en línea, integrarlos con LangChain y ajustarlos para una amplia variedad de modelos, como Qwen, InternLM, ChatGLM, Llama 3, MiniCPM y Gemma.
El contenido está organizado por modelo, y cada modelo compatible cuenta con una guía paso a paso que cubre el despliegue, el fine-tuning y el uso. Entre los métodos de fine-tuning se incluyen el entrenamiento distribuido de todos los parámetros, LoRA y P-tuning. Hay secciones específicas para GPUs AMD con ROCm, NPUs Huawei Ascend y chips Apple M-series.
Datawhale mantiene el proyecto y acepta issues y pull requests de colaboradores. También incluye proyectos de ejemplo, como un modelo de chat que imita el estilo de un personaje y otro centrado en matemáticas, basado en InternLM2-Math.
Funciones clave
- 01Guías paso a paso para desplegar y usar decenas de LLM y modelos multimodales de código abierto.
- 02Cubre métodos de fine-tuning de todos los parámetros, LoRA y P-tuning.
- 03Incluye guías para configurar entornos en Linux, ROCm, Ascend NPU y chips Apple M.
- 04Muestra cómo hacer llamadas desde la línea de comandos, desplegar demos en línea e integrar LangChain.
- 05Escrito en chino, con ejemplos basados en Jupyter Notebook.
Casos de uso
- Un estudiante que quiere ejecutar Qwen o InternLM localmente sin pagar por el acceso a una API.
- Un desarrollador que aprende a ajustar un modelo abierto con LoRA usando un conjunto de datos específico de un dominio.
- Un investigador que configura un LLM abierto en hardware AMD o Ascend.
- Un equipo que crea un asistente privado de conocimiento con LangChain y un modelo local.
Inicio rápido
- 1
Clona el repositorio
git clone https://github.com/datawhalechina/self-llm.git - 2
Abre el índice de tutoriales para consultar los modelos compatibles y sigue la guía general de configuración del entorno
Antes de usarlo
- Los tutoriales están escritos en chino y están dirigidos a Linux; hay guías independientes para hardware AMD, Ascend NPU y Apple M.
- La mayoría de las guías requieren una GPU con bastante VRAM para ejecutar o ajustar los modelos.
Temas
Preguntas frecuentes
- ¿Qué es self-llm?
- Colección de tutoriales en chino para desplegar, usar y ajustar LLM de código abierto y modelos multimodales en Linux, con guías de fine-tuning completo, LoRA y P-tuning. self-llm es un proyecto de tutoriales en chino para principiantes que quieren ejecutar modelos de lenguaje grandes de código abierto en sus propias máquinas Linux. Explica cómo configurar el entorno, realizar despliegues locales, usar modelos desde la línea de comandos y en demos en línea, integrarlos con LangChain y ajustarlos para una amplia variedad de modelos, como Qwen, InternLM, ChatGLM, Llama 3, MiniCPM y Gemma.
- ¿self-llm es gratuito? ¿Qué licencia tiene?
- self-llm es open source bajo la licencia Apache-2.0. Revisa los términos de la licencia antes de usarlo en productos comerciales.
- ¿self-llm sigue mantenido?
- Actualizado en los últimos 6 meses. El último commit de self-llm fue el 12 sept 2026.
- ¿Para qué puedo usar self-llm?
- Un estudiante que quiere ejecutar Qwen o InternLM localmente sin pagar por el acceso a una API. Un desarrollador que aprende a ajustar un modelo abierto con LoRA usando un conjunto de datos específico de un dominio. Un investigador que configura un LLM abierto en hardware AMD o Ascend. Un equipo que crea un asistente privado de conocimiento con LangChain y un modelo local.
- ¿Cómo se instala self-llm?
- Clona el repositorio: git clone https://github.com/datawhalechina/self-llm.git Abre el índice de tutoriales para consultar los modelos compatibles y sigue la guía general de configuración del entorno
- ¿Dónde consigo self-llm?
- El código fuente y las instrucciones de instalación están en GitHub: https://github.com/datawhalechina/self-llm
Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.
Proyectos relacionados
Convierte tu historial de chat exportado en un LLM ajustado que imita tu estilo y lo despliega como chatbot en Telegram, Discord, Slack o WeChat.
18,3 mil1,7 milPythonAGPL-3.0Actualizado anteayer
Tutorial abierto en chino que enseña los principios de los LLM creando desde cero un modelo pequeño al estilo de LLaMA2, y cubre Transformer, preentrenamiento, ajuste fino, RAG y agentes.
34,5 mil3,3 milJupyter NotebookOtherActualizado hace 2 meses
Framework unificado para ajustar eficientemente más de 100 LLM y VLM con una CLI y una interfaz web sin código.
75,6 mil9,3 milPythonApache-2.0Actualizado hace 20 horas
Biblioteca de Python que ejecuta modelos de lenguaje grandes capa por capa para que los modelos de 70B puedan inferir en una sola GPU de 4 GB, sin cuantización.
39,5 mil4 milJupyter NotebookApache-2.0Actualizado ayer
Modelos de lenguaje grandes de código abierto ajustados para tareas financieras, como análisis de sentimiento, pronósticos y benchmarks de NLP financiero.
21,4 mil3 milJupyter NotebookMITActualizado hace 28 días