Repolode
Предложить
peremartra

peremartra/Large-Language-Model-Notebooks-Course

Бесплатный практический курс с Jupyter-ноутбуками и статьями о приложениях на базе LLM: OpenAI, Hugging Face, LangChain, векторные базы данных, дообучение и прунинг.

Открыть на GitHubСайт
Звёзды
1,825
Форки
450
Открытые issues
0
Последний коммит
22 дня назад

Что это?

Это бесплатный практический курс по Large Language Models. Он состоит из Jupyter-ноутбуков, в основном размещённых на Colab, и статей с подробным разбором кода к каждому ноутбуку. Курс создан как неофициальное дополнение к книге издательства Apress, но включает не весь её материал и продолжает пополняться новыми уроками.

Курс разделён на три части: методы и библиотеки, практические проекты и корпоративные решения. В первой рассматриваются чат-боты на OpenAI API, перевод запросов на естественном языке в SQL, векторные базы данных с ChromaDB, генерация с дополнением контекста (RAG) с LangChain, агенты, метрики оценки, такие как BLEU и ROUGE, и дообучение с PEFT, LoRA и QLoRA. В более поздней части разбираются структурный прунинг моделей семейства Llama, обход механизма внимания, дистилляция знаний и анализ смещений.

Уроки рассчитаны на прохождение одновременно со статьёй. Для некоторых ноутбуков требуется больше памяти, чем доступно в бесплатном тарифе Colab.

Ключевые возможности

  • 01Ноутбуки охватывают чат-ботов на OpenAI API, NL-to-SQL и проектирование промптов.
  • 02Включает RAG-пайплайны на ChromaDB и LangChain.
  • 03Рассматривает оценку с помощью BLEU, ROUGE, LangSmith и Giskard.
  • 04Обучает параметрически эффективному дообучению с PEFT, LoRA и QLoRA.
  • 05Показывает прунинг и дистилляцию знаний на моделях Llama 3.2.

Сценарии использования

  • Изучение создания RAG-чат-ботов с LangChain и векторной базой данных.
  • Практика дообучения LLM с помощью QLoRA на одной потребительской GPU.
  • Изучение методов сжатия моделей, таких как прунинг и дистилляция.

Быстрый старт

  1. 1

    Откройте учебные ноутбуки в Google Colab или запустите их локально из репозитория

  2. 2

    Клонируйте репозиторий

  3. 3

    Читайте статью к уроку вместе с ноутбуком и следуйте инструкциям

Что важно знать

  • Во многих ноутбуках используются модели OpenAI или Hugging Face, которым нужен API-ключ или больше памяти, чем доступно на бесплатном тарифе Colab.
  • Курс всё ещё находится в постоянной разработке, поэтому уроки добавляются со временем.
  • Некоторые уроки ещё в работе и пока не сопровождаются статьёй.

Темы

#large-language-models#llm#langchain#hugging-face#transformers#fine-tuning#vector-database#tutorial#chatbots#fine-tuning-llm

Частые вопросы

Что такое Large-Language-Model-Notebooks-Course?
Бесплатный практический курс с Jupyter-ноутбуками и статьями о приложениях на базе LLM: OpenAI, Hugging Face, LangChain, векторные базы данных, дообучение и прунинг. Это бесплатный практический курс по Large Language Models. Он состоит из Jupyter-ноутбуков, в основном размещённых на Colab, и статей с подробным разбором кода к каждому ноутбуку. Курс создан как неофициальное дополнение к книге издательства Apress, но включает не весь её материал и продолжает пополняться новыми уроками.
Large-Language-Model-Notebooks-Course можно использовать бесплатно? Какая у него лицензия?
Large-Language-Model-Notebooks-Course распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
Large-Language-Model-Notebooks-Course всё ещё поддерживается?
Активно поддерживается. Последний коммит в Large-Language-Model-Notebooks-Course — 29 сент. 2026 г..
Для чего можно использовать Large-Language-Model-Notebooks-Course?
Изучение создания RAG-чат-ботов с LangChain и векторной базой данных. Практика дообучения LLM с помощью QLoRA на одной потребительской GPU. Изучение методов сжатия моделей, таких как прунинг и дистилляция.
Как установить Large-Language-Model-Notebooks-Course?
Откройте учебные ноутбуки в Google Colab или запустите их локально из репозитория Клонируйте репозиторий Читайте статью к уроку вместе с ноутбуком и следуйте инструкциям
Где скачать Large-Language-Model-Notebooks-Course?
Исходный код и инструкции по установке — на GitHub: https://github.com/peremartra/Large-Language-Model-Notebooks-Course

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

datawhalechina / happy-llm

Учебник на китайском языке, который объясняет принципы работы LLM на примере создания небольшой модели в стиле LLaMA2 с нуля: от Transformer и предобучения до дообучения, RAG и агентов.

Обучающие материалы#llm#transformer#tutorial
34,5 тыс.3,3 тыс.Jupyter NotebookOtherОбновлён 2 месяца назад

datawhalechina / self-llm

Подборка обучающих материалов на китайском языке по развёртыванию, использованию и дообучению открытых LLM и мультимодальных моделей в Linux: полное дообучение, LoRA и P-tuning.

Обучающие материалы#llm#fine-tuning#lora
32,5 тыс.3,1 тыс.Jupyter NotebookApache-2.0Обновлён в прошлом месяце