Система на базе PyTorch для распределённого обучения и инференса крупных AI-моделей с поддержкой параллелизма, оптимизации памяти и гетерогенного обучения.
Lightning-AI/pytorch-lightning
Фреймворк для глубокого обучения на PyTorch: автоматизирует циклы обучения, масштабирование на несколько GPU и типовую инженерную работу, сохраняя полный контроль над кодом модели.
- Звёзды
- 31,446
- Форки
- 3,849
- Открытые issues
- 1,210
- Последний коммит
- 9 дней назад
Что это?
PyTorch Lightning — фреймворк для предобучения и дообучения моделей PyTorch. Вы описываете логику модели в LightningModule, а Trainer берет на себя обратное распространение ошибки, mixed precision, выбор устройства и распределенное обучение на CPU, GPU, TPU и нескольких узлах. Один и тот же код можно запускать на разном оборудовании, меняя всего несколько аргументов Trainer.
В проект также входит Lightning Fabric — более низкоуровневый слой для тех, кто хочет сохранить собственный цикл обучения и при этом использовать обработку устройств и стратегии распределенного обучения, такие как DDP, FSDP и DeepSpeed. Среди встроенных возможностей — сохранение контрольных точек, ранняя остановка, интеграции с логгерами и такими инструментами, как TensorBoard, Weights & Biases и MLflow, а также экспорт в TorchScript и ONNX.
В репозитории есть пример для быстрого старта, набор примеров по задачам — классификации, сегментации, детекции, дообучению LLM и диффузии — и документация по обоим пакетам.
Ключевые возможности
- 01Trainer позволяет масштабировать один и тот же код от одного CPU или GPU до многовузловых кластеров.
- 02Поддерживаются TPU, mixed precision и стратегии распределенного обучения, такие как DDP, FSDP и DeepSpeed.
- 03Lightning Fabric дает опытным пользователям полный контроль над собственным циклом обучения.
- 04Встроены сохранение контрольных точек, ранняя остановка и интеграции с системами логирования.
- 05Экспорт моделей в TorchScript и ONNX.
Сценарии использования
- Обучение и дообучение моделей глубокого обучения на PyTorch без написания шаблонного кода для цикла обучения.
- Перенос существующего скрипта обучения PyTorch на оборудование с несколькими GPU или TPU.
- Создание собственного цикла обучения на основе примитивов распределенного обучения и mixed precision.
- Проведение воспроизводимых экспериментов с интегрированным отслеживанием экспериментов.
Быстрый старт
- 1
Установите Lightning с помощью pip
pip install lightning - 2
Установите torchvision для примера
pip install torchvision - 3
Сохраните простой пример в файле main.py и запустите его
python main.py
В подборках
Темы
Частые вопросы
- Что такое pytorch-lightning?
- Фреймворк для глубокого обучения на PyTorch: автоматизирует циклы обучения, масштабирование на несколько GPU и типовую инженерную работу, сохраняя полный контроль над кодом модели. PyTorch Lightning — фреймворк для предобучения и дообучения моделей PyTorch. Вы описываете логику модели в LightningModule, а Trainer берет на себя обратное распространение ошибки, mixed precision, выбор устройства и распределенное обучение на CPU, GPU, TPU и нескольких узлах. Один и тот же код можно запускать на разном оборудовании, меняя всего несколько аргументов Trainer.
- pytorch-lightning можно использовать бесплатно? Какая у него лицензия?
- pytorch-lightning распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- pytorch-lightning всё ещё поддерживается?
- Активно поддерживается. Последний коммит в pytorch-lightning — 30 окт. 2026 г..
- Для чего можно использовать pytorch-lightning?
- Обучение и дообучение моделей глубокого обучения на PyTorch без написания шаблонного кода для цикла обучения. Перенос существующего скрипта обучения PyTorch на оборудование с несколькими GPU или TPU. Создание собственного цикла обучения на основе примитивов распределенного обучения и mixed precision. Проведение воспроизводимых экспериментов с интегрированным отслеживанием экспериментов.
- Как установить pytorch-lightning?
- Установите Lightning с помощью pip: pip install lightning Установите torchvision для примера: pip install torchvision Сохраните простой пример в файле main.py и запустите его: python main.py
- Где скачать pytorch-lightning?
- Исходный код и инструкции по установке — на GitHub: https://github.com/Lightning-AI/pytorch-lightning
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Библиотека для оптимизации глубокого обучения, упрощающая и ускоряющая распределённое обучение и инференс больших моделей.
Оптимизированная библиотека Microsoft для обучения и инференса MoE-моделей в PyTorch, включая низкоточный инференс моделей DeepSeek, Qwen и GLM.
Лёгкая библиотека глубокого обучения с проверкой типов для функциональной композиции моделей и обёртывания слоёв PyTorch, TensorFlow и MXNet.
CLI и инструментарий на Python для упаковки и развёртывания ML-моделей на Baseten или собственной инфраструктуре в виде production-серверов моделей.
Ray — единый фреймворк для масштабирования приложений на Python и ИИ: от ноутбука до кластера, с распределённой средой выполнения и библиотеками для ИИ.