Apache Airflow es una plataforma para crear, programar y supervisar mediante código flujos de trabajo definidos en Python (Dags).
pathwaycom/pathway
Framework ETL de Python para procesamiento de streams, analítica en tiempo real, pipelines de LLM y RAG, impulsado por un motor Rust.
- Estrellas
- 62,089
- Forks
- 1,683
- Issues abiertos
- 37
- Último commit
- anteayer
¿Qué es?
Pathway es un framework ETL de Python para crear pipelines que procesan datos por lotes y en streaming. El mismo código puede ejecutarse en desarrollo local, pruebas de CI, trabajos por lotes, reproducción de streams y procesamiento en vivo, por lo que los desarrolladores no necesitan mantener versiones separadas de un pipeline para lotes y streaming.
La API de Python se apoya en un motor Rust basado en Differential Dataflow, que realiza cálculos incrementales. Los pipelines se mantienen en memoria y pueden ejecutarse con multithreading, multiprocessing o ejecución distribuida, y desplegarse con Docker y Kubernetes. Los conectores admiten fuentes como Kafka, PostgreSQL, Google Drive y SharePoint, y un conector de Airbyte permite acceder a más de 300 fuentes adicionales.
Pathway también incluye una extensión para LLM con wrappers, parsers, embedders y splitters, un índice vectorial en memoria y en tiempo real, e integraciones con LangChain y LlamaIndex para crear aplicaciones RAG sobre documentos en vivo.
Funciones clave
- 01Motor unificado para datos por lotes y en streaming con el mismo código de Python.
- 02Conectores para Kafka, PostgreSQL, Google Drive, SharePoint y más de 300 fuentes mediante Airbyte.
- 03Transformaciones con estado, como joins, ventanas y ordenamiento, además de compatibilidad con funciones arbitrarias de Python.
- 04Persistencia para guardar el estado de los cálculos y permitir que los pipelines se reinicien después de actualizaciones o fallos.
- 05Motor Rust compatible con multithreading, multiprocessing y cálculo distribuido.
- 06Herramientas integradas para LLM, con un índice vectorial en memoria y en tiempo real, e integraciones con LangChain y LlamaIndex.
Casos de uso
- ETL en tiempo real para mover y transformar datos de Kafka o bases de datos.
- Pipelines basados en eventos con alertas, como la supervisión de logs.
- Aplicaciones RAG en vivo que mantienen actualizado un índice vectorial a medida que cambian los documentos.
- Migrar un trabajo de datos por lotes existente a streaming sin reescribirlo.
Inicio rápido
- 1
Instala Pathway desde PyPI con pip
pip install -U pathway - 2
Guarda el código de ejemplo como main.py y ejecútalo con Pathway runner
pathway spawn python main.py
Antes de usarlo
- Solo está disponible en macOS y Linux; en otros sistemas se necesita una máquina virtual.
- Requiere Python 3.10 o posterior.
- En los metadatos, la licencia figura como NOASSERTION y la insignia del README indica BSL, así que consulta las condiciones de la licencia antes de usarlo con fines comerciales.
- La consistencia exactly-once solo está disponible en la versión Enterprise; la versión gratuita ofrece at-least-once.
Temas
Preguntas frecuentes
- ¿Qué es pathway?
- Framework ETL de Python para procesamiento de streams, analítica en tiempo real, pipelines de LLM y RAG, impulsado por un motor Rust. Pathway es un framework ETL de Python para crear pipelines que procesan datos por lotes y en streaming. El mismo código puede ejecutarse en desarrollo local, pruebas de CI, trabajos por lotes, reproducción de streams y procesamiento en vivo, por lo que los desarrolladores no necesitan mantener versiones separadas de un pipeline para lotes y streaming.
- ¿pathway es gratuito? ¿Qué licencia tiene?
- pathway es open source bajo la licencia Other. Revisa los términos de la licencia antes de usarlo en productos comerciales.
- ¿pathway sigue mantenido?
- Mantenimiento activo. El último commit de pathway fue el 20 oct 2026.
- ¿Para qué puedo usar pathway?
- ETL en tiempo real para mover y transformar datos de Kafka o bases de datos. Pipelines basados en eventos con alertas, como la supervisión de logs. Aplicaciones RAG en vivo que mantienen actualizado un índice vectorial a medida que cambian los documentos. Migrar un trabajo de datos por lotes existente a streaming sin reescribirlo.
- ¿Cómo se instala pathway?
- Instala Pathway desde PyPI con pip: pip install -U pathway Guarda el código de ejemplo como main.py y ejecútalo con Pathway runner: pathway spawn python main.py
- ¿Dónde consigo pathway?
- El código fuente y las instrucciones de instalación están en GitHub: https://github.com/pathwaycom/pathway
Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.
Proyectos relacionados
Sistema de Python para ejecutar pipelines de map-reduce y ETL con LLM sobre grandes volúmenes de datos estructurados y no estructurados, descritos en lenguaje natural.
Framework de pipelines de datos incremental en Python con un núcleo en Rust que mantiene sincronizados índices vectoriales y grafos de conocimiento con fuentes cambiantes para agentes de IA y aplicaciones RAG.
Servidor RAG sin código que indexa una carpeta de documentos en una de 8 bases de datos vectoriales y mantiene las respuestas sincronizadas cuando cambian los archivos.
Plataforma de BI agéntica y de código abierto que define métricas gobernadas una sola vez en una capa de contexto y las ofrece a dashboards, agentes de IA y aplicaciones de datos.
Herramienta de inteligencia empresarial de código abierto de Frappe para crear consultas, gráficos y dashboards sin escribir SQL.