Tutorial abierto en chino que enseña los principios de los LLM creando desde cero un modelo pequeño al estilo de LLaMA2, y cubre Transformer, preentrenamiento, ajuste fino, RAG y agentes.
34,5 mil3,3 milJupyter NotebookOtherActualizado hace 3 meses
skindhu/Build-A-Large-Language-Model-CN
Traducción al chino del libro «Build a Large Language Model (From Scratch)», sobre los principios de los LLM y la implementación de un modelo al estilo GPT.
- Estrellas
- 4,134
- Forks
- 682
- Issues abiertos
- 9
- Último commit
- hace 2 meses
¿Qué es?
Este repositorio contiene una traducción al chino simplificado del libro «Build a Large Language Model (From Scratch)», que explica paso a paso cómo funcionan los modelos de lenguaje grandes y cómo implementar un modelo al estilo GPT. La traducción está organizada por capítulos y abarca el procesamiento de datos de texto, los mecanismos de atención, la implementación de un modelo GPT, el preentrenamiento, el ajuste fino para clasificación y el ajuste fino con instrucciones. También incluye apéndices sobre PyTorch, LoRA y técnicas para los bucles de entrenamiento.
El libro electrónico original en inglés se incluye junto con los capítulos en chino, y la versión en chino se puede leer en línea en una página web. El traductor indica que la traducción se realizó por etapas: un borrador generado por IA, una revisión con IA y, por último, una edición manual. El repositorio también contiene notas interpretativas añadidas por el traductor cuando el original es conciso.
El código complementario del libro está en un repositorio oficial independiente, al que esta traducción hace referencia.
Funciones clave
- 01Traducción al chino organizada según los capítulos del libro en inglés
- 02Incluye el libro electrónico original en inglés para leerlo en paralelo
- 03Abarca la tokenización, la atención, la implementación de GPT, el preentrenamiento y el ajuste fino
- 04Los apéndices cubren los fundamentos de PyTorch y el ajuste fino eficiente en parámetros basado en LoRA
- 05Se puede leer en línea en una página web
Casos de uso
- Aprender desde cero cómo funcionan los LLM en chino
- Seguir ejercicios prácticos de programación para crear un modelo GPT pequeño
- Estudiar el preentrenamiento y el ajuste fino con instrucciones de los LLM
Inicio rápido
- 1
Leer el libro en línea en el sitio de GitHub Pages del proyecto
- 2
Clonar el repositorio para obtener localmente el libro electrónico en inglés y las imágenes
Antes de usarlo
- Es un libro traducido, no una biblioteca de software, y el README no describe un proyecto ejecutable.
- El README indica que la traducción se generó parcialmente con IA y no se ha revisado por completo; recomienda leer el libro original en inglés.
- La licencia figura como NOASSERTION, por lo que las condiciones de reutilización no están claras.
Temas
Preguntas frecuentes
- ¿Qué es Build-A-Large-Language-Model-CN?
- Traducción al chino del libro «Build a Large Language Model (From Scratch)», sobre los principios de los LLM y la implementación de un modelo al estilo GPT. Este repositorio contiene una traducción al chino simplificado del libro «Build a Large Language Model (From Scratch)», que explica paso a paso cómo funcionan los modelos de lenguaje grandes y cómo implementar un modelo al estilo GPT. La traducción está organizada por capítulos y abarca el procesamiento de datos de texto, los mecanismos de atención, la implementación de un modelo GPT, el preentrenamiento, el ajuste fino para clasificación y el ajuste fino con instrucciones. También incluye apéndices sobre PyTorch, LoRA y técnicas para los bucles de entrenamiento.
- ¿Build-A-Large-Language-Model-CN es gratuito? ¿Qué licencia tiene?
- Build-A-Large-Language-Model-CN es open source bajo la licencia Other. Revisa los términos de la licencia antes de usarlo en productos comerciales.
- ¿Build-A-Large-Language-Model-CN sigue mantenido?
- Actualizado en los últimos 6 meses. El último commit de Build-A-Large-Language-Model-CN fue el 10 ago 2026.
- ¿Para qué puedo usar Build-A-Large-Language-Model-CN?
- Aprender desde cero cómo funcionan los LLM en chino Seguir ejercicios prácticos de programación para crear un modelo GPT pequeño Estudiar el preentrenamiento y el ajuste fino con instrucciones de los LLM
- ¿Cómo se instala Build-A-Large-Language-Model-CN?
- Leer el libro en línea en el sitio de GitHub Pages del proyecto Clonar el repositorio para obtener localmente el libro electrónico en inglés y las imágenes
- ¿Dónde consigo Build-A-Large-Language-Model-CN?
- El código fuente y las instrucciones de instalación están en GitHub: https://github.com/skindhu/Build-A-Large-Language-Model-CN
Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.
Proyectos relacionados
Guía y código en PyTorch para entrenar desde cero un LLM transformer, desde el preentrenamiento hasta SFT, modelado de recompensas, DPO/PPO/GRPO y generación.
12,4 mil1,7 milPythonMITActualizado hace 20 días
Código complementario del libro Build a Large Language Model (From Scratch) para implementar paso a paso un LLM similar a GPT en PyTorch.
107,1 mil16,5 milJupyter NotebookOtherActualizado hace 20 días
Framework para definir modelos de aprendizaje automático de última generación de texto, visión, audio y modalidades múltiples, para inferencia y entrenamiento.
168 mil34,9 milPythonApache-2.0Actualizado hace 3 horas
Implementación oficial de FlashAttention, un kernel de atención exacta y eficiente en memoria para entrenar e inferir con modelos Transformer en GPU.
25,2 mil3,2 milPythonBSD-3-ClauseActualizado hace 2 horas
Un entorno mínimo y fácil de modificar que cubre todo el flujo de trabajo de los LLM, desde la tokenización y el preentrenamiento hasta el ajuste fino, la evaluación y el chat, en un único nodo con GPU.
58,9 mil8,2 milPythonMITActualizado el mes pasado