Repolode
Enviar
nerdai

nerdai/llms-from-scratch-rs

Traducción a Rust del código del libro «Build an LLM from Scratch», de Sebastian Raschka, basada en el crate Candle ML.

Ver en GitHubSitio web
Estrellas
341
Forks
43
Issues abiertos
11
Último commit
hace 4 días

¿Qué es?

Este proyecto adapta a Rust el código de PyTorch del libro «Build an LLM from Scratch», de Sebastian Raschka, usando el crate Candle como framework de machine learning. Sigue los siete capítulos del libro, desde el manejo de datos de texto y los mecanismos de atención hasta la implementación de un modelo de estilo GPT, el preentrenamiento, el ajuste fino para clasificación y el ajuste fino con instrucciones.

Los ejemplos y ejercicios se ejecutan mediante un único binario `main`; por ejemplo, con `cargo run example 05.07` o `cargo run exercise 5.5`. La opción `--features cuda` habilita los dispositivos CUDA. Las importaciones se incluyen dentro del `main()` de cada ejemplo para que los lectores puedan ver exactamente qué dependencias necesita cada uno. El proyecto también se puede instalar desde crates.io y utiliza el mismo conjunto de datos the-verdict.txt que el libro.

Funciones clave

  • 01Adapta a Rust el código de PyTorch del libro mediante el crate Candle.
  • 02Abarca siete capítulos, desde la tokenización hasta el ajuste fino con instrucciones.
  • 03Ejecuta ejemplos y ejercicios mediante un único binario de cargo, identificados por ID.
  • 04Admite aceleración CUDA opcional mediante una feature flag.
  • 05Se puede instalar directamente desde crates.io.

Casos de uso

  • Aprender paso a paso cómo se construye en Rust un LLM de estilo GPT.
  • Comparar una implementación en Rust de los componentes de un transformer con la versión original en PyTorch.
  • Resolver los ejercicios del libro de Raschka en un entorno Rust.

Inicio rápido

  1. 1

    Clona el repositorio

    git clone https://github.com/nerdai/llms-from-scratch-rs.git
  2. 2

    Descarga el conjunto de datos en la carpeta data

    mkdir -p 'data/' && wget 'https://raw.githubusercontent.com/rabst/LLMs-from-scratch/main/ch02/01_main-chapter-code/the-verdict.txt' -O 'data/the-verdict.txt'
  3. 3

    Ejecuta un ejemplo desde la raíz del proyecto

    cargo run example 05.07

Antes de usarlo

  • Se requiere una toolchain de Rust con Cargo instalado.
  • Los ejemplos son traducciones educativas del código del libro, no una biblioteca de LLM para producción.

En colecciones

Herramientas de aprendizaje y educación de código abiertoHerramientas y bibliotecas de procesamiento del lenguaje natural

Temas

#llm#rust#candle#gpt#deep-learning#education#nlp#llms

Preguntas frecuentes

¿Qué es llms-from-scratch-rs?
Traducción a Rust del código del libro «Build an LLM from Scratch», de Sebastian Raschka, basada en el crate Candle ML. Este proyecto adapta a Rust el código de PyTorch del libro «Build an LLM from Scratch», de Sebastian Raschka, usando el crate Candle como framework de machine learning. Sigue los siete capítulos del libro, desde el manejo de datos de texto y los mecanismos de atención hasta la implementación de un modelo de estilo GPT, el preentrenamiento, el ajuste fino para clasificación y el ajuste fino con instrucciones.
¿llms-from-scratch-rs es gratuito? ¿Qué licencia tiene?
llms-from-scratch-rs es open source bajo la licencia MIT. Revisa los términos de la licencia antes de usarlo en productos comerciales.
¿llms-from-scratch-rs sigue mantenido?
Mantenimiento activo. El último commit de llms-from-scratch-rs fue el 2 nov 2026.
¿Para qué puedo usar llms-from-scratch-rs?
Aprender paso a paso cómo se construye en Rust un LLM de estilo GPT. Comparar una implementación en Rust de los componentes de un transformer con la versión original en PyTorch. Resolver los ejercicios del libro de Raschka en un entorno Rust.
¿Cómo se instala llms-from-scratch-rs?
Clona el repositorio: git clone https://github.com/nerdai/llms-from-scratch-rs.git Descarga el conjunto de datos en la carpeta data: mkdir -p 'data/' && wget 'https://raw.githubusercontent.com/rabst/LLMs-from-scratch/main/ch02/01_main-chapter-code/the-verdict.txt' -O 'data/the-verdict.txt' Ejecuta un ejemplo desde la raíz del proyecto: cargo run example 05.07
¿Dónde consigo llms-from-scratch-rs?
El código fuente y las instrucciones de instalación están en GitHub: https://github.com/nerdai/llms-from-scratch-rs

Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.

Proyectos relacionados