Repolode
pathwaycom

pathwaycom/pathway

Framework ETL de Python para procesamiento de streams, analítica en tiempo real, pipelines de LLM y RAG, impulsado por un motor Rust.

Estrellas
62,089
Forks
1,683
Issues abiertos
37
Último commit
anteayer

¿Qué es?

Pathway es un framework ETL de Python para crear pipelines que procesan datos por lotes y en streaming. El mismo código puede ejecutarse en desarrollo local, pruebas de CI, trabajos por lotes, reproducción de streams y procesamiento en vivo, por lo que los desarrolladores no necesitan mantener versiones separadas de un pipeline para lotes y streaming.

La API de Python se apoya en un motor Rust basado en Differential Dataflow, que realiza cálculos incrementales. Los pipelines se mantienen en memoria y pueden ejecutarse con multithreading, multiprocessing o ejecución distribuida, y desplegarse con Docker y Kubernetes. Los conectores admiten fuentes como Kafka, PostgreSQL, Google Drive y SharePoint, y un conector de Airbyte permite acceder a más de 300 fuentes adicionales.

Pathway también incluye una extensión para LLM con wrappers, parsers, embedders y splitters, un índice vectorial en memoria y en tiempo real, e integraciones con LangChain y LlamaIndex para crear aplicaciones RAG sobre documentos en vivo.

Funciones clave

  • 01Motor unificado para datos por lotes y en streaming con el mismo código de Python.
  • 02Conectores para Kafka, PostgreSQL, Google Drive, SharePoint y más de 300 fuentes mediante Airbyte.
  • 03Transformaciones con estado, como joins, ventanas y ordenamiento, además de compatibilidad con funciones arbitrarias de Python.
  • 04Persistencia para guardar el estado de los cálculos y permitir que los pipelines se reinicien después de actualizaciones o fallos.
  • 05Motor Rust compatible con multithreading, multiprocessing y cálculo distribuido.
  • 06Herramientas integradas para LLM, con un índice vectorial en memoria y en tiempo real, e integraciones con LangChain y LlamaIndex.

Casos de uso

  • ETL en tiempo real para mover y transformar datos de Kafka o bases de datos.
  • Pipelines basados en eventos con alertas, como la supervisión de logs.
  • Aplicaciones RAG en vivo que mantienen actualizado un índice vectorial a medida que cambian los documentos.
  • Migrar un trabajo de datos por lotes existente a streaming sin reescribirlo.

Inicio rápido

  1. 1

    Instala Pathway desde PyPI con pip

    pip install -U pathway
  2. 2

    Guarda el código de ejemplo como main.py y ejecútalo con Pathway runner

    pathway spawn python main.py

Antes de usarlo

  • Solo está disponible en macOS y Linux; en otros sistemas se necesita una máquina virtual.
  • Requiere Python 3.10 o posterior.
  • En los metadatos, la licencia figura como NOASSERTION y la insignia del README indica BSL, así que consulta las condiciones de la licencia antes de usarlo con fines comerciales.
  • La consistencia exactly-once solo está disponible en la versión Enterprise; la versión gratuita ofrece at-least-once.

Temas

Preguntas frecuentes

¿Qué es pathway?
Framework ETL de Python para procesamiento de streams, analítica en tiempo real, pipelines de LLM y RAG, impulsado por un motor Rust. Pathway es un framework ETL de Python para crear pipelines que procesan datos por lotes y en streaming. El mismo código puede ejecutarse en desarrollo local, pruebas de CI, trabajos por lotes, reproducción de streams y procesamiento en vivo, por lo que los desarrolladores no necesitan mantener versiones separadas de un pipeline para lotes y streaming.
¿pathway es gratuito? ¿Qué licencia tiene?
pathway es open source bajo la licencia Other. Revisa los términos de la licencia antes de usarlo en productos comerciales.
¿pathway sigue mantenido?
Mantenimiento activo. El último commit de pathway fue el 20 oct 2026.
¿Para qué puedo usar pathway?
ETL en tiempo real para mover y transformar datos de Kafka o bases de datos. Pipelines basados en eventos con alertas, como la supervisión de logs. Aplicaciones RAG en vivo que mantienen actualizado un índice vectorial a medida que cambian los documentos. Migrar un trabajo de datos por lotes existente a streaming sin reescribirlo.
¿Cómo se instala pathway?
Instala Pathway desde PyPI con pip: pip install -U pathway Guarda el código de ejemplo como main.py y ejecútalo con Pathway runner: pathway spawn python main.py
¿Dónde consigo pathway?
El código fuente y las instrucciones de instalación están en GitHub: https://github.com/pathwaycom/pathway

Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.

Proyectos relacionados