Repolode
unslothai

unslothai/unsloth

Приложение с открытым исходным кодом и веб-интерфейс для локального запуска, дообучения и экспорта LLM и diffusion-моделей, а также библиотека для обучения через код.

Open source альтернатива:LM StudioOllama

Звёзды
78,299
Форки
7,246
Открытые issues
325
Последний коммит
8 часов назад

Что это?

Unsloth — локальный инструмент для запуска и обучения AI-моделей. Он доступен в виде Unsloth Desktop — нативного приложения для Windows, macOS и Linux — и Unsloth Studio — веб-интерфейса, который запускается командой unsloth studio. Unsloth Core — Python-пакет для дообучения с помощью скриптов и ноутбуков.

Для запуска моделей поддерживаются GGUF и MLX, diffusion-модели для генерации изображений и видео, а также OpenAI-совместимый API. Кроме того, локальные модели можно подключать к агентам, таким как Claude Code и Codex, и инструментам MCP. Подключиться к ним можно по LAN или через HTTPS-ссылку Cloudflare.

Для обучения доступны LoRA, QLoRA, полное дообучение, методы обучения с подкреплением, такие как GRPO и DPO, а также экспорт в форматы, включая GGUF и FP8. Для основного пакета проекта используется лицензия Apache 2.0, а для интерфейса Studio — AGPL-3.0.

Ключевые возможности

  • 01Запускает и обучает LLM, diffusion-модели, аудиомодели и модели эмбеддингов в Windows, Linux, WSL и macOS.
  • 02Поддерживает GPU NVIDIA, AMD и Intel, CPU и бэкенд Vulkan.
  • 03Предоставляет модели через OpenAI-совместимый API.
  • 04Подключает локальные модели к Claude Code, Codex и инструментам MCP.
  • 05Поддерживает LoRA, QLoRA, полное дообучение, GRPO и DPO.
  • 06Экспортирует обученные модели в GGUF, FP8 и другие форматы.
  • 07Создаёт датасеты из PDF, CSV и DOCX-файлов.

Сценарии использования

  • Запуск открытых моделей на ноутбуке или рабочей станции без отправки данных в облачный сервис.
  • Дообучение небольшой LLM на одной потребительской GPU с меньшим расходом VRAM.
  • Подключение локальной модели к агентам для написания кода, например Claude Code или Codex.
  • Обучение diffusion- или TTS-моделей и их экспорт для локального развёртывания.

Быстрый старт

  1. 1

    Скачайте приложение Unsloth Desktop для вашей ОС со страницы релизов

  2. 2

    Установите приложение на macOS с помощью Homebrew

    brew install --cask unsloth
  3. 3

    Запустите веб-интерфейс Unsloth Studio

    unsloth studio

Что важно знать

  • Серверные инструменты включены по умолчанию, поэтому для доступа к Unsloth по сети задайте надёжный пароль или используйте флаг --disable-tools.
  • Некоторые способы установки, например настройка Docker для работы с GPU, требуют оборудования NVIDIA или AMD.

Темы

Частые вопросы

Что такое unsloth?
Приложение с открытым исходным кодом и веб-интерфейс для локального запуска, дообучения и экспорта LLM и diffusion-моделей, а также библиотека для обучения через код. Unsloth — локальный инструмент для запуска и обучения AI-моделей. Он доступен в виде Unsloth Desktop — нативного приложения для Windows, macOS и Linux — и Unsloth Studio — веб-интерфейса, который запускается командой unsloth studio. Unsloth Core — Python-пакет для дообучения с помощью скриптов и ноутбуков.
unsloth можно использовать бесплатно? Какая у него лицензия?
unsloth распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
unsloth всё ещё поддерживается?
Активно поддерживается. Последний коммит в unsloth — 20 окт. 2026 г..
Для чего можно использовать unsloth?
Запуск открытых моделей на ноутбуке или рабочей станции без отправки данных в облачный сервис. Дообучение небольшой LLM на одной потребительской GPU с меньшим расходом VRAM. Подключение локальной модели к агентам для написания кода, например Claude Code или Codex. Обучение diffusion- или TTS-моделей и их экспорт для локального развёртывания.
Как установить unsloth?
Скачайте приложение Unsloth Desktop для вашей ОС со страницы релизов Установите приложение на macOS с помощью Homebrew: brew install --cask unsloth Запустите веб-интерфейс Unsloth Studio: unsloth studio
Где скачать unsloth?
Исходный код и инструкции по установке — на GitHub: https://github.com/unslothai/unsloth

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты