Tutorial aberto em chinês que ensina os princípios dos LLMs construindo do zero um modelo pequeno no estilo LLaMA2, com Transformer, pré-treinamento, fine-tuning, RAG e agentes.
34,5 mil3,3 milJupyter NotebookOtherAtualizado há 3 meses
skindhu/Build-A-Large-Language-Model-CN
Tradução para o chinês do livro "Build a Large Language Model (From Scratch)", que aborda os princípios de LLMs e a implementação de um modelo no estilo GPT.
- Estrelas
- 4,134
- Forks
- 682
- Issues abertas
- 9
- Último commit
- há 2 meses
O que é?
Este repositório reúne uma tradução para o chinês simplificado do livro "Build a Large Language Model (From Scratch)", que explica como os grandes modelos de linguagem funcionam e como implementar um modelo no estilo GPT passo a passo. A tradução está organizada por capítulo e aborda processamento de dados textuais, mecanismos de atenção, implementação de modelos GPT, pré-treinamento, ajuste fino para classificação e ajuste fino com instruções, além de apêndices sobre PyTorch, LoRA e técnicas para loops de treinamento.
O e-book original em inglês está incluído junto dos capítulos em chinês, e a versão chinesa pode ser lida online em uma página da web. O tradutor informa que a tradução foi produzida em etapas: um rascunho feito por IA, uma revisão com IA e, depois, uma revisão manual. O repositório também inclui notas explicativas acrescentadas pelo tradutor nos trechos em que o original é sucinto.
O código complementar do livro está em um repositório oficial separado, referenciado nesta tradução.
Recursos principais
- 01Tradução para o chinês organizada de acordo com os capítulos do livro em inglês
- 02Inclui o e-book original em inglês para leitura lado a lado
- 03Aborda tokenização, atenção, implementação de GPT, pré-treinamento e ajuste fino
- 04Os apêndices abordam fundamentos de PyTorch e ajuste fino eficiente em parâmetros com LoRA
- 05Pode ser lido online em uma página da web
Casos de uso
- Aprender em chinês como os LLMs funcionam, desde os fundamentos
- Acompanhar exercícios práticos de programação para criar um modelo GPT pequeno
- Estudar pré-treinamento e ajuste fino com instruções para LLMs
Início rápido
- 1
Ler o livro on-line pelo site do GitHub Pages do projeto
- 2
Clonar o repositório para obter localmente o e-book em inglês e as imagens
Antes de usar
- Este é um livro traduzido, não uma biblioteca de software, e o README não descreve um projeto executável.
- O README informa que parte da tradução foi gerada por IA e não foi totalmente revisada; recomenda a leitura do livro original em inglês.
- A licença está listada como NOASSERTION, então os termos de reutilização não estão claros.
Tópicos
Perguntas frequentes
- O que é Build-A-Large-Language-Model-CN?
- Tradução para o chinês do livro "Build a Large Language Model (From Scratch)", que aborda os princípios de LLMs e a implementação de um modelo no estilo GPT. Este repositório reúne uma tradução para o chinês simplificado do livro "Build a Large Language Model (From Scratch)", que explica como os grandes modelos de linguagem funcionam e como implementar um modelo no estilo GPT passo a passo. A tradução está organizada por capítulo e aborda processamento de dados textuais, mecanismos de atenção, implementação de modelos GPT, pré-treinamento, ajuste fino para classificação e ajuste fino com instruções, além de apêndices sobre PyTorch, LoRA e técnicas para loops de treinamento.
- Build-A-Large-Language-Model-CN é gratuito? Qual é a licença?
- Build-A-Large-Language-Model-CN é open source sob a licença Other. Confira os termos da licença antes de usá-lo em produtos comerciais.
- Build-A-Large-Language-Model-CN ainda é mantido?
- Atualizado nos últimos 6 meses. O último commit de Build-A-Large-Language-Model-CN foi em 10 de ago. de 2026.
- Para que posso usar Build-A-Large-Language-Model-CN?
- Aprender em chinês como os LLMs funcionam, desde os fundamentos Acompanhar exercícios práticos de programação para criar um modelo GPT pequeno Estudar pré-treinamento e ajuste fino com instruções para LLMs
- Como instalar Build-A-Large-Language-Model-CN?
- Ler o livro on-line pelo site do GitHub Pages do projeto Clonar o repositório para obter localmente o e-book em inglês e as imagens
- Onde consigo Build-A-Large-Language-Model-CN?
- O código-fonte e as instruções de instalação estão no GitHub: https://github.com/skindhu/Build-A-Large-Language-Model-CN
Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.
Projetos relacionados
Um guia prático e codebase em PyTorch para treinar um LLM do zero, cobrindo pré-treinamento, SFT, modelagem de recompensas, DPO/PPO/GRPO e geração.
12,4 mil1,7 milPythonMITAtualizado há 20 dias
Código complementar ao livro Build a Large Language Model (From Scratch), com a implementação passo a passo de um LLM semelhante ao GPT em PyTorch.
107,1 mil16,5 milJupyter NotebookOtherAtualizado há 20 dias
Framework para definir modelos de ponta em machine learning para texto, visão, áudio e tarefas multimodais, voltado a inferência e treinamento.
168 mil34,9 milPythonApache-2.0Atualizado há 3 horas
Implementação oficial do FlashAttention, um kernel de atenção exata e eficiente em memória para treinar e executar inferência de modelos Transformer em GPUs.
25,2 mil3,2 milPythonBSD-3-ClauseAtualizado há 2 horas
Um harness mínimo e fácil de modificar que cobre todo o pipeline de LLM, da tokenização ao pré-treinamento, ajuste fino, avaliação e chat, executável em um único nó com GPU.
58,9 mil8,2 milPythonMITAtualizado mês passado