Implementação oficial do FlashAttention, um kernel de atenção exata e eficiente em memória para treinar e executar inferência de modelos Transformer em GPUs.
huggingface/transformers
Framework para definir modelos de ponta em machine learning para texto, visão, áudio e tarefas multimodais, voltado a inferência e treinamento.
- Estrelas
- 167,893
- Forks
- 34,917
- Issues abertas
- 2,220
- Último commit
- há 3 horas
O que é?
Transformers oferece uma camada compartilhada de definição de modelos de ponta em machine learning para tarefas de texto, visão computacional, áudio, vídeo e multimodais. Cada modelo é definido uma única vez, em um formato consistente e legível, para que frameworks de treinamento, mecanismos de inferência e bibliotecas relacionadas à modelagem possam usar as mesmas definições.
A biblioteca oferece uma API de alto nível, a Pipeline API, para executar modelos com poucas linhas de código em tarefas como geração de texto, reconhecimento de fala, classificação de imagens e resposta visual a perguntas. Os checkpoints pré-treinados são baixados do Hugging Face Hub e armazenados em cache localmente para reutilização. Também é possível usar os modelos diretamente no PyTorch para treinamento e personalização em um nível mais baixo.
A instalação requer Python 3.10+ e PyTorch 2.6+. O projeto não é uma caixa de ferramentas genérica de componentes de redes neurais; para loops de treinamento genéricos, o README recomenda o Accelerate.
Recursos principais
- 01Pipeline API para inferência em tarefas de texto, áudio, visão e multimodais.
- 02Acesso a mais de um milhão de checkpoints pré-treinados no Hugging Face Hub.
- 03Definições consistentes de modelos, compatíveis com treinamento baseado em PyTorch e mecanismos de inferência.
- 04Converse com modelos diretamente pela linha de comando usando transformers serve e transformers chat.
Casos de uso
- Executar um modelo de linguagem pré-treinado para gerar texto ou conversar em uma aplicação Python.
- Transcrever fala ou classificar imagens usando modelos prontos para uso.
- Ajustar um modelo PyTorch pré-treinado com um conjunto de dados personalizado.
- Reproduzir arquiteturas de modelos publicados em experimentos de pesquisa.
Início rápido
- 1
Crie e ative um ambiente virtual com venv
python -m venv .my-env - 2
Instale o Transformers com suporte ao PyTorch usando pip
pip install "transformers[torch]" - 3
Execute um pipeline de geração de texto a partir de código Python (consulte o exemplo de Quickstart)
Antes de usar
- Requer Python 3.10 ou superior e PyTorch 2.6 ou superior.
- A execução de modelos grandes, como Llama ou Whisper-large, exige bastante memória e, de preferência, uma GPU.
Tópicos
Perguntas frequentes
- O que é transformers?
- Framework para definir modelos de ponta em machine learning para texto, visão, áudio e tarefas multimodais, voltado a inferência e treinamento. Transformers oferece uma camada compartilhada de definição de modelos de ponta em machine learning para tarefas de texto, visão computacional, áudio, vídeo e multimodais. Cada modelo é definido uma única vez, em um formato consistente e legível, para que frameworks de treinamento, mecanismos de inferência e bibliotecas relacionadas à modelagem possam usar as mesmas definições.
- transformers é gratuito? Qual é a licença?
- transformers é open source sob a licença Apache-2.0. Confira os termos da licença antes de usá-lo em produtos comerciais.
- transformers ainda é mantido?
- Manutenção ativa. O último commit de transformers foi em 20 de out. de 2026.
- Para que posso usar transformers?
- Executar um modelo de linguagem pré-treinado para gerar texto ou conversar em uma aplicação Python. Transcrever fala ou classificar imagens usando modelos prontos para uso. Ajustar um modelo PyTorch pré-treinado com um conjunto de dados personalizado. Reproduzir arquiteturas de modelos publicados em experimentos de pesquisa.
- Como instalar transformers?
- Crie e ative um ambiente virtual com venv: python -m venv .my-env Instale o Transformers com suporte ao PyTorch usando pip: pip install "transformers[torch]" Execute um pipeline de geração de texto a partir de código Python (consulte o exemplo de Quickstart)
- Onde consigo transformers?
- O código-fonte e as instruções de instalação estão no GitHub: https://github.com/huggingface/transformers
Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.
Projetos relacionados
CLI oficial (hf) e cliente Python para baixar, enviar e gerenciar repositórios no Hugging Face Hub.
Uma coleção de 419 modelos de IA pré-treinados para visão, fala, NLP e LLMs, todos executáveis por uma CLI Python unificada usando o ailia SDK.
Tutorial aberto em chinês que ensina os princípios dos LLMs construindo do zero um modelo pequeno no estilo LLaMA2, com Transformer, pré-treinamento, fine-tuning, RAG e agentes.
Tutorial comentado em 12 capítulos que ensina a criar e treinar do zero, em Python e PyTorch, um GPT pequeno no estilo LLaMA.
Base de conhecimento de ML selecionada, em Markdown, com 923 artigos, aulas e papers, além do APRL, um classificador e regressor próprio que usa apenas NumPy.