Repolode
AutoMQ

AutoMQ/automq

基于 S3 对象存储的无状态、兼容 Kafka 的流处理系统,数据不再依赖本地磁盘。

可替代:Amazon MSKConfluent Cloud

Star
10,917
Fork
797
未关闭 Issue
66
最近提交
6小时前

这是什么?

AutoMQ 是 Apache Kafka 的一个分支,将其本地磁盘存储层替换为 Amazon S3 或 MinIO 等对象存储。Broker 不再保存持久状态,集群扩缩容时无需迁移分区,项目称扩缩容可在数秒内完成。

它面向在云上运行 Kafka 的团队,主要解决 EBS 存储费用高、跨可用区流量费以及因 Kafka 扩展性有限而过度配置的问题。系统通过预写日志(WAL)以及 LogCache、BlockCache 等缓存层保证读写效率。内置的自动均衡组件会在 Broker 之间调度流量和分区,无需额外部署 Cruise Control。机架感知路由则让各可用区的客户端获取本地分区元数据,从而避免在 AWS 和 GCP 上产生跨 AZ 费用。

AutoMQ 与 Kafka 协议 100% 兼容,并可导出 Prometheus 和 OpenTelemetry 指标。开源版默认直接写入 S3,项目称会带来数百毫秒的延迟;个位数毫秒级延迟由企业版提供。仓库还提供了单节点和三节点的 Docker Compose 配置,便于评估。

核心功能

  • 01兼容 Kafka 协议,存储层改用 S3 兼容的对象存储。
  • 02无状态 Broker,扩缩容无需迁移分区数据。
  • 03内置自动均衡组件,自动在 Broker 之间调度分区和流量。
  • 04机架感知路由,减少 AWS 和 GCP 上的跨可用区流量费用。
  • 05支持导出 Prometheus 和 OpenTelemetry 指标。
  • 06提供单节点和三节点 Docker Compose 配置用于评估。

适用场景

  • 替换云上自建的 Apache Kafka 集群,降低存储和跨可用区流量成本。
  • 流量波动较大、需要频繁弹性扩缩容的流处理场景。
  • 在本地使用 MinIO 等 S3 兼容存储搭配 Kafka 客户端。
  • 在本地环境评估兼容 Kafka 的流处理方案,再决定是否用于生产。

标签

常见问题

automq 是什么?
基于 S3 对象存储的无状态、兼容 Kafka 的流处理系统,数据不再依赖本地磁盘。 AutoMQ 是 Apache Kafka 的一个分支,将其本地磁盘存储层替换为 Amazon S3 或 MinIO 等对象存储。Broker 不再保存持久状态,集群扩缩容时无需迁移分区,项目称扩缩容可在数秒内完成。
automq 可以免费使用吗?用的什么许可证?
automq 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
automq 还在维护吗?
活跃维护中。automq 最近一次提交是在 2026年10月19日。
automq 适合用来做什么?
替换云上自建的 Apache Kafka 集群,降低存储和跨可用区流量成本。 流量波动较大、需要频繁弹性扩缩容的流处理场景。 在本地使用 MinIO 等 S3 兼容存储搭配 Kafka 客户端。 在本地环境评估兼容 Kafka 的流处理方案,再决定是否用于生产。
在哪里获取 automq?
源代码和安装说明在 GitHub 上:https://github.com/AutoMQ/automq

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目