Apache Druid 是一个高性能实时分析数据库,支持快速查询与数据摄入,可作为数据仓库的开源替代方案。
- Star
- 10,917
- Fork
- 797
- 未关闭 Issue
- 66
- 最近提交
- 6小时前
这是什么?
AutoMQ 是 Apache Kafka 的一个分支,将其本地磁盘存储层替换为 Amazon S3 或 MinIO 等对象存储。Broker 不再保存持久状态,集群扩缩容时无需迁移分区,项目称扩缩容可在数秒内完成。
它面向在云上运行 Kafka 的团队,主要解决 EBS 存储费用高、跨可用区流量费以及因 Kafka 扩展性有限而过度配置的问题。系统通过预写日志(WAL)以及 LogCache、BlockCache 等缓存层保证读写效率。内置的自动均衡组件会在 Broker 之间调度流量和分区,无需额外部署 Cruise Control。机架感知路由则让各可用区的客户端获取本地分区元数据,从而避免在 AWS 和 GCP 上产生跨 AZ 费用。
AutoMQ 与 Kafka 协议 100% 兼容,并可导出 Prometheus 和 OpenTelemetry 指标。开源版默认直接写入 S3,项目称会带来数百毫秒的延迟;个位数毫秒级延迟由企业版提供。仓库还提供了单节点和三节点的 Docker Compose 配置,便于评估。
核心功能
- 01兼容 Kafka 协议,存储层改用 S3 兼容的对象存储。
- 02无状态 Broker,扩缩容无需迁移分区数据。
- 03内置自动均衡组件,自动在 Broker 之间调度分区和流量。
- 04机架感知路由,减少 AWS 和 GCP 上的跨可用区流量费用。
- 05支持导出 Prometheus 和 OpenTelemetry 指标。
- 06提供单节点和三节点 Docker Compose 配置用于评估。
适用场景
- 替换云上自建的 Apache Kafka 集群,降低存储和跨可用区流量成本。
- 流量波动较大、需要频繁弹性扩缩容的流处理场景。
- 在本地使用 MinIO 等 S3 兼容存储搭配 Kafka 客户端。
- 在本地环境评估兼容 Kafka 的流处理方案,再决定是否用于生产。
标签
常见问题
- automq 是什么?
- 基于 S3 对象存储的无状态、兼容 Kafka 的流处理系统,数据不再依赖本地磁盘。 AutoMQ 是 Apache Kafka 的一个分支,将其本地磁盘存储层替换为 Amazon S3 或 MinIO 等对象存储。Broker 不再保存持久状态,集群扩缩容时无需迁移分区,项目称扩缩容可在数秒内完成。
- automq 可以免费使用吗?用的什么许可证?
- automq 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
- automq 还在维护吗?
- 活跃维护中。automq 最近一次提交是在 2026年10月19日。
- automq 适合用来做什么?
- 替换云上自建的 Apache Kafka 集群,降低存储和跨可用区流量成本。 流量波动较大、需要频繁弹性扩缩容的流处理场景。 在本地使用 MinIO 等 S3 兼容存储搭配 Kafka 客户端。 在本地环境评估兼容 Kafka 的流处理方案,再决定是否用于生产。
- 在哪里获取 automq?
- 源代码和安装说明在 GitHub 上:https://github.com/AutoMQ/automq
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
1.4万3802JavaApache-2.0更新于 12小时前
面向低延迟实时分析的分布式 OLAP 数据存储,可接入 Kafka 流数据和 S3 等批量数据。
61611526JavaApache-2.0更新于 7小时前
用 Swift 编写的高性能 S3 兼容对象存储系统,定位为 MinIO 和 RustFS 的开源替代方案。
5668SwiftApache-2.0更新于 30天前
Pipedream 是一个托管式集成平台,用于连接 API 与应用,构建事件驱动的自动化流程。
1.2万5840JavaScriptOther更新于 4小时前
免费自托管的 PostgreSQL 备份工具,支持时间点恢复、自动恢复验证和 Web 界面。
9147584TypeScriptApache-2.0更新于 9天前
开源的 PDF 编辑平台,可在浏览器、桌面端或通过 API 编辑、签名、涂黑、转换和自动化处理 PDF。
9.5万1.2万TypeScriptOther更新于 3小时前