pathwaycom/pathway

Pathway 是一个用 Python 写的数据 ETL 框架，可以理解为「能同时处理批数据和实时流的 Flink 替代品」，底层由 Rust 引擎驱动，做增量计算，同一份代码既能本地开发调试，也能直接上生产跑 Kafka 流、日志监控或实时分析。它内置了 LLM 工具封装，能搭实时 RAG 管道，比如把 SharePoint、GDrive 里的文档变化自动同步进向量库，或者用 Ollama 搭私有 RAG，还支持多模态 RAG 和非结构化数据即时转 SQL。连接器覆盖 Kafka、PostgreSQL、Airbyte 等 300 多种数据源。适合数据工程师、做实时数仓或事件驱动告警的后端，以及需要让 RAG 知识库随数据源实时更新的 AI 应用开发者；如果你只做离线批处理或纯模型训练，关系不大。

Star 趋势

话题标签

仓库信息