Repolode
Предложить
nerdai

nerdai/llms-from-scratch-rs

Перенос кода из книги Себастьяна Рашки «Build an LLM from Scratch» на Rust с использованием ML-крейта Candle.

Открыть на GitHubСайт
Звёзды
341
Форки
43
Открытые issues
11
Последний коммит
5 дней назад

Что это?

Проект переносит код на PyTorch из книги Себастьяна Рашки «Build an LLM from Scratch» на Rust, используя Candle в качестве ML-фреймворка. Он охватывает семь глав книги: от работы с текстовыми данными и механизмами внимания до реализации GPT-подобной модели, предобучения, дообучения для классификации и дообучения на инструкциях.

Примеры и упражнения запускаются через один бинарный файл `main`, например командами `cargo run example 05.07` или `cargo run exercise 5.5`; флаг `--features cuda` включает поддержку CUDA-устройств. Импорты размещены внутри `main()` каждого примера, чтобы читатели могли видеть, какие именно зависимости ему нужны. Проект также можно установить с crates.io, а для него используется тот же датасет the-verdict.txt, что и в книге.

Ключевые возможности

  • 01Переносит код книги на PyTorch на Rust с использованием Candle.
  • 02Охватывает семь глав: от токенизации до дообучения на инструкциях.
  • 03Запускает примеры и упражнения через один бинарный файл cargo по их ID.
  • 04Поддерживает ускорение с помощью CUDA, которое включается флагом feature.
  • 05Можно установить напрямую с crates.io.

Сценарии использования

  • Изучение пошаговой реализации GPT-подобной LLM на Rust.
  • Сравнение реализации компонентов трансформера на Rust с оригинальной версией на PyTorch.
  • Выполнение упражнений из книги Рашки в среде Rust.

Быстрый старт

  1. 1

    Клонируйте репозиторий

    git clone https://github.com/nerdai/llms-from-scratch-rs.git
  2. 2

    Скачайте набор данных в папку data

    mkdir -p 'data/' && wget 'https://raw.githubusercontent.com/rabst/LLMs-from-scratch/main/ch02/01_main-chapter-code/the-verdict.txt' -O 'data/the-verdict.txt'
  3. 3

    Запустите пример из корневой папки проекта

    cargo run example 05.07

Что важно знать

  • Требуется toolchain Rust с установленным Cargo.
  • Примеры — это учебные переводы кода из книги, а не библиотека LLM для промышленного использования.

В подборках

Открытые инструменты для обучения и образованияИнструменты и библиотеки обработки естественного языка

Темы

#llm#rust#candle#gpt#deep-learning#education#nlp#llms

Частые вопросы

Что такое llms-from-scratch-rs?
Перенос кода из книги Себастьяна Рашки «Build an LLM from Scratch» на Rust с использованием ML-крейта Candle. Проект переносит код на PyTorch из книги Себастьяна Рашки «Build an LLM from Scratch» на Rust, используя Candle в качестве ML-фреймворка. Он охватывает семь глав книги: от работы с текстовыми данными и механизмами внимания до реализации GPT-подобной модели, предобучения, дообучения для классификации и дообучения на инструкциях.
llms-from-scratch-rs можно использовать бесплатно? Какая у него лицензия?
llms-from-scratch-rs распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
llms-from-scratch-rs всё ещё поддерживается?
Активно поддерживается. Последний коммит в llms-from-scratch-rs — 2 нояб. 2026 г..
Для чего можно использовать llms-from-scratch-rs?
Изучение пошаговой реализации GPT-подобной LLM на Rust. Сравнение реализации компонентов трансформера на Rust с оригинальной версией на PyTorch. Выполнение упражнений из книги Рашки в среде Rust.
Как установить llms-from-scratch-rs?
Клонируйте репозиторий: git clone https://github.com/nerdai/llms-from-scratch-rs.git Скачайте набор данных в папку data: mkdir -p 'data/' && wget 'https://raw.githubusercontent.com/rabst/LLMs-from-scratch/main/ch02/01_main-chapter-code/the-verdict.txt' -O 'data/the-verdict.txt' Запустите пример из корневой папки проекта: cargo run example 05.07
Где скачать llms-from-scratch-rs?
Исходный код и инструкции по установке — на GitHub: https://github.com/nerdai/llms-from-scratch-rs

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты