datawhalechina/self-llm

Что это?

Ключевые возможности

• 01Пошаговые руководства по развёртыванию и использованию десятков открытых LLM и мультимодальных моделей.
• 02Рассматриваются полное дообучение всех параметров, LoRA и P-tuning.
• 03Есть инструкции по настройке окружения для Linux, ROCm, Ascend NPU и чипов Apple серии M.
• 04Показаны вызовы из командной строки, развёртывание онлайн-демо и интеграция с LangChain.
• 05Материалы на китайском языке с примерами в формате Jupyter Notebook.

Сценарии использования

• Студент хочет локально запустить Qwen или InternLM без платного доступа к API.
• Разработчик учится дообучать открытую модель с помощью LoRA на профильном датасете.
• Исследователь настраивает открытую LLM на оборудовании AMD или Ascend.
• Команда создаёт приватного ассистента по корпоративным знаниям на базе локальной модели с LangChain.

Быстрый старт

1. 1

   Клонируйте репозиторий

   git clone https://github.com/datawhalechina/self-llm.git
2. 2

   Откройте указатель руководств, чтобы узнать о поддерживаемых моделях, и следуйте общему руководству по настройке среды

Что важно знать

• !Руководства написаны на китайском языке и предназначены для Linux; для оборудования AMD, Ascend NPU и Apple M есть отдельные руководства.
• !Для запуска или дообучения моделей по большинству руководств требуется GPU с большим объёмом VRAM.

Темы

Частые вопросы

Что такое self-llm?

Подборка обучающих материалов на китайском языке по развёртыванию, использованию и дообучению открытых LLM и мультимодальных моделей в Linux: полное дообучение, LoRA и P-tuning. self-llm — проект с обучающими материалами на китайском языке для начинающих, которые хотят запускать открытые большие языковые модели на своих компьютерах с Linux. В нём рассказывается о настройке окружения, локальном развёртывании, работе через командную строку и онлайн-демо, интеграции с LangChain и дообучении широкого спектра моделей, включая Qwen, InternLM, ChatGLM, Llama 3, MiniCPM и Gemma.

self-llm можно использовать бесплатно? Какая у него лицензия?

self-llm распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.

self-llm всё ещё поддерживается?

Обновлялся за последние 6 месяцев. Последний коммит в self-llm — 12 сент. 2026 г..

Для чего можно использовать self-llm?

Студент хочет локально запустить Qwen или InternLM без платного доступа к API. Разработчик учится дообучать открытую модель с помощью LoRA на профильном датасете. Исследователь настраивает открытую LLM на оборудовании AMD или Ascend. Команда создаёт приватного ассистента по корпоративным знаниям на базе локальной модели с LangChain.

Как установить self-llm?

Клонируйте репозиторий: git clone https://github.com/datawhalechina/self-llm.git Откройте указатель руководств, чтобы узнать о поддерживаемых моделях, и следуйте общему руководству по настройке среды

Где скачать self-llm?

Исходный код и инструкции по установке — на GitHub: https://github.com/datawhalechina/self-llm