Guia passo a passo em chinês, com código de demonstração para aprender LLMs, desde chamadas de API até implantação local e fine-tuning, com versões para Kaggle/Colab.
4,7 mil489PythonMITAtualizado há 8 dias
datawhalechina/self-llm
Coleção de tutoriais em chinês sobre implantação, uso e ajuste fino de LLMs e modelos multimodais de código aberto no Linux, com guias de treinamento completo, LoRA e P-tuning.
- Estrelas
- 32,533
- Forks
- 3,136
- Issues abertas
- 163
- Último commit
- mês passado
O que é?
self-llm é um projeto de tutoriais em chinês para iniciantes que querem executar grandes modelos de linguagem de código aberto em suas próprias máquinas Linux. O conteúdo aborda configuração do ambiente, implantação local, uso pela linha de comando e em demos online, integração com LangChain e ajuste fino de diversos modelos, incluindo Qwen, InternLM, ChatGLM, Llama 3, MiniCPM e Gemma.
O conteúdo é organizado por modelo, e cada modelo compatível tem seu próprio guia passo a passo sobre implantação, ajuste fino e uso. Os métodos de ajuste fino incluem treinamento distribuído com todos os parâmetros, LoRA e P-tuning. Há seções específicas sobre GPUs AMD com ROCm, NPUs Huawei Ascend e chips Apple M-series.
O projeto é mantido pela Datawhale e aceita issues e pull requests de colaboradores. Também inclui projetos de exemplo, como um modelo de chat com estilo de personagem e um modelo voltado para matemática baseado no InternLM2-Math.
Recursos principais
- 01Guias passo a passo de implantação e uso para dezenas de LLMs e modelos multimodais de código aberto.
- 02Abrange métodos de ajuste fino com todos os parâmetros, LoRA e P-tuning.
- 03Inclui guias de configuração de ambiente para Linux, ROCm, Ascend NPU e chips Apple M.
- 04Mostra chamadas pela linha de comando, implantação de demos online e integração com LangChain.
- 05Escrito em chinês, com exemplos baseados em Jupyter Notebook.
Casos de uso
- Um estudante que quer executar Qwen ou InternLM localmente, sem depender de acesso pago a APIs.
- Um desenvolvedor que está aprendendo a fazer ajuste fino com LoRA de um modelo aberto usando um conjunto de dados específico de um domínio.
- Um pesquisador que está configurando um LLM aberto em hardware AMD ou Ascend.
- Uma equipe que está criando um assistente privado de conhecimento com LangChain e um modelo local.
Início rápido
- 1
Clone o repositório
git clone https://github.com/datawhalechina/self-llm.git - 2
Abra o índice de tutoriais para consultar os modelos compatíveis e siga o guia geral de configuração do ambiente
Antes de usar
- Os tutoriais estão escritos em chinês e são voltados para Linux; há guias separados para hardware AMD, Ascend NPU e Apple M.
- A maioria dos guias exige uma GPU com bastante VRAM para executar ou fazer o fine-tuning dos modelos.
Tópicos
Perguntas frequentes
- O que é self-llm?
- Coleção de tutoriais em chinês sobre implantação, uso e ajuste fino de LLMs e modelos multimodais de código aberto no Linux, com guias de treinamento completo, LoRA e P-tuning. self-llm é um projeto de tutoriais em chinês para iniciantes que querem executar grandes modelos de linguagem de código aberto em suas próprias máquinas Linux. O conteúdo aborda configuração do ambiente, implantação local, uso pela linha de comando e em demos online, integração com LangChain e ajuste fino de diversos modelos, incluindo Qwen, InternLM, ChatGLM, Llama 3, MiniCPM e Gemma.
- self-llm é gratuito? Qual é a licença?
- self-llm é open source sob a licença Apache-2.0. Confira os termos da licença antes de usá-lo em produtos comerciais.
- self-llm ainda é mantido?
- Atualizado nos últimos 6 meses. O último commit de self-llm foi em 12 de set. de 2026.
- Para que posso usar self-llm?
- Um estudante que quer executar Qwen ou InternLM localmente, sem depender de acesso pago a APIs. Um desenvolvedor que está aprendendo a fazer ajuste fino com LoRA de um modelo aberto usando um conjunto de dados específico de um domínio. Um pesquisador que está configurando um LLM aberto em hardware AMD ou Ascend. Uma equipe que está criando um assistente privado de conhecimento com LangChain e um modelo local.
- Como instalar self-llm?
- Clone o repositório: git clone https://github.com/datawhalechina/self-llm.git Abra o índice de tutoriais para consultar os modelos compatíveis e siga o guia geral de configuração do ambiente
- Onde consigo self-llm?
- O código-fonte e as instruções de instalação estão no GitHub: https://github.com/datawhalechina/self-llm
Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.
Projetos relacionados
Transforma seu histórico de conversas exportado em um LLM ajustado para imitar seu estilo e o disponibiliza como chatbot no Telegram, Discord, Slack ou WeChat.
18,3 mil1,7 milPythonAGPL-3.0Atualizado anteontem
Tutorial aberto em chinês que ensina os princípios dos LLMs construindo do zero um modelo pequeno no estilo LLaMA2, com Transformer, pré-treinamento, fine-tuning, RAG e agentes.
34,5 mil3,3 milJupyter NotebookOtherAtualizado há 2 meses
Framework unificado para ajustar 100+ LLMs e VLMs com eficiência, usando uma CLI e uma interface Web sem código.
75,6 mil9,3 milPythonApache-2.0Atualizado há 20 horas
Biblioteca Python que executa LLMs grandes camada por camada, permitindo inferência com modelos da classe 70B em uma única GPU de 4 GB, sem quantização.
39,5 mil4 milJupyter NotebookApache-2.0Atualizado ontem
Modelos de linguagem grandes open source ajustados para tarefas financeiras, como análise de sentimento, previsão e benchmarks de NLP financeiro.
21,4 mil3 milJupyter NotebookMITAtualizado há 28 dias