Biblioteca open source que adiciona machine learning distribuído, deep learning e serviços de IA do Azure aos pipelines do Apache Spark.
mrpowers-io/quinn
Funções auxiliares para PySpark que validam DataFrames, transformam colunas e facilitam o trabalho com schemas, acelerando o desenvolvimento com Spark.
- Estrelas
- 691
- Forks
- 95
- Issues abertas
- 25
- Último commit
- há 14 dias
O que é?
Quinn é uma biblioteca Python com métodos auxiliares para PySpark. Ela oferece funções de validação de DataFrame que verificam colunas e campos de schema obrigatórios ou proibidos, além de funções para colunas que limpam strings, lidam com valores nulos e truthy e calculam as datas de início e fim da semana.
A biblioteca também inclui transformações de DataFrame, como converter nomes de colunas para snake_case, ordená-las alfabeticamente e renomear várias colunas de uma só vez. Os helpers convertem colunas ou DataFrames inteiros em listas e dicionários Python, e os utilitários de schema leem um schema de um arquivo CSV ou exibem um schema existente como código Python.
Quinn pode ser instalada do PyPI com pip e conta com documentação em um site do projeto. Ela é voltada a engenheiros de dados e desenvolvedores que escrevem jobs em PySpark e querem evitar repetir código boilerplate comum.
Recursos principais
- 01Valida DataFrames em busca de colunas obrigatórias ou proibidas e campos de schema.
- 02Oferece funções para colunas de string, como remoção de espaços em branco e de caracteres que não sejam alfanuméricos.
- 03Disponibiliza verificações seguras para valores nulos, como is_null_or_blank e null_between.
- 04Converte nomes de colunas para snake_case e ordena as colunas alfabeticamente.
- 05Cria schemas do PySpark a partir de arquivos CSV e exibe schemas como código Python.
Casos de uso
- Validar DataFrames recebidos antes de executar um pipeline de transformação do Spark.
- Padronizar nomes de colunas e valores de string desorganizados em jobs de limpeza de dados.
- Fazer join entre DataFrames com nomes de colunas em comum, renomeando-as com um sufixo compartilhado.
- Definir schemas do Spark em arquivos CSV que pessoas sem conhecimentos de programação possam editar.
Início rápido
- 1
Instale o Quinn pelo PyPI
pip install quinn - 2
Importe a biblioteca no Python
import quinn
Antes de usar
- Requer PySpark, então só é útil para projetos baseados em Spark.
Tópicos
Perguntas frequentes
- O que é quinn?
- Funções auxiliares para PySpark que validam DataFrames, transformam colunas e facilitam o trabalho com schemas, acelerando o desenvolvimento com Spark. Quinn é uma biblioteca Python com métodos auxiliares para PySpark. Ela oferece funções de validação de DataFrame que verificam colunas e campos de schema obrigatórios ou proibidos, além de funções para colunas que limpam strings, lidam com valores nulos e truthy e calculam as datas de início e fim da semana.
- quinn é gratuito? Qual é a licença?
- quinn é open source sob a licença Apache-2.0. Confira os termos da licença antes de usá-lo em produtos comerciais.
- quinn ainda é mantido?
- Manutenção ativa. O último commit de quinn foi em 25 de out. de 2026.
- Para que posso usar quinn?
- Validar DataFrames recebidos antes de executar um pipeline de transformação do Spark. Padronizar nomes de colunas e valores de string desorganizados em jobs de limpeza de dados. Fazer join entre DataFrames com nomes de colunas em comum, renomeando-as com um sufixo compartilhado. Definir schemas do Spark em arquivos CSV que pessoas sem conhecimentos de programação possam editar.
- Como instalar quinn?
- Instale o Quinn pelo PyPI: pip install quinn Importe a biblioteca no Python: import quinn
- Onde consigo quinn?
- O código-fonte e as instruções de instalação estão no GitHub: https://github.com/mrpowers-io/quinn
Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.
Projetos relacionados
Biblioteca Python de qualidade de dados que permite às equipes escrever Expectations declarativas como testes unitários para os dados e gerar relatórios de validação.
Uma alternativa plug-and-play ao Apache Spark, escrita em Rust, que executa código PySpark existente pelo protocolo Spark Connect.
Manual curado e repleto de links, com livros, comunidades, cursos, ferramentas, blogs e recursos de aprendizado para engenharia de dados.
Uma plataforma de orquestração em Python para definir, executar e monitorar ativos de dados, como tabelas, datasets, modelos de ML e relatórios.
Ambiente auto-hospedado no estilo notebook para criar, agendar e depurar pipelines de dados em Python, SQL ou R.