Um guia prático e codebase em PyTorch para treinar um LLM do zero, cobrindo pré-treinamento, SFT, modelagem de recompensas, DPO/PPO/GRPO e geração.
12,3 mil1,8 milPythonMITAtualizado há 18 dias
#pretraining
Repositórios do GitHub selecionados relacionados a pretraining, com resumos de IA e métricas principais.
Um guia prático e codebase em PyTorch para treinar um LLM do zero, cobrindo pré-treinamento, SFT, modelagem de recompensas, DPO/PPO/GRPO e geração.