Repolode
cosmo-wander-ai

cosmo-wander-ai/cosmo-edge

面向 Sophon、Rockchip RKNN 和 x86 的 C++ 边缘 AI 引擎,将视频分析与端侧 VLM 模型部署为可运行的应用。

Star
1,838
Fork
312
未关闭 Issue
21
最近提交
昨天

这是什么?

CosmoEdge 是用 C++ 编写的边缘 AI 引擎,用于在边缘设备上运行视频分析和视觉语言模型(VLM)任务。项目覆盖模型导入、浏览器中的可视化流程编排、告警规则、OSD 叠加以及通过 REST、WebSocket、MQTT 和 HTTP Webhook 推送事件。

每次构建只针对一种推理后端:Sophon BM1688 和 CV186X 使用 BMRT,Rockchip RK3576 和 RV1126B 使用带 MPP/RGA 的 RKNN,x86 Linux 与 Windows 使用 ONNX Runtime 和 FFmpeg。模型需要针对实际运行的芯片单独生成。x86 模式无需边缘硬件即可使用相同的控制台和流程,但吞吐量较低。

项目还包含 GroundingDINO 开放词汇检测、基于提示词的 VLM 判断,以及 ONVIF 和 GB28181 摄像头接入,并为各平台提供基于 Docker 的构建方式。v1.1.0 版本附有各芯片的性能基准报告。

核心功能

  • 01在浏览器控制台中可视化组合处理流程并绑定任务。
  • 02支持检测、分类、跟踪、区域、计数、OSD 叠加和告警截图。
  • 03支持基于提示词的 VLM 判断和 GroundingDINO 开放词汇检测。
  • 04通过 REST、WebSocket、MQTT 和 HTTP Webhook 推送事件。
  • 05支持 ONVIF 和 GB28181 摄像头接入。
  • 06提供 Sophon、Rockchip 和 x86 的 Docker 构建方式。

适用场景

  • 在边缘盒子上对多路视频进行安全或入侵检测分析。
  • 通过 MQTT 或 Webhook 将提示词驱动的视觉判断告警推送到现有系统。
  • 先在 x86 上验证视频 AI 流程,再部署到 Sophon 或 Rockchip 硬件。

快速上手

  1. 1

    克隆仓库

    git clone https://github.com/cosmo-wander-ai/cosmo-edge.git
  2. 2

    进入项目目录

    cd cosmo-edge
  3. 3

    使用 Docker Compose 启动 x86 Linux 版本

    sudo docker compose -f docker-compose.x86.yml up -d --build
  4. 4

    在 localhost:8080 打开 Web 控制台

使用前须知

  • 边缘 NPU 部署需要特定硬件(Sophon、Rockchip);x86 模式吞吐量较低。
  • Apple Silicon macOS 仅为预览版,通过 amd64 模拟运行单路视频工作流。
  • 当前 main 分支的改动不包含在稳定版 v1.1.0 安装包中。

标签

常见问题

cosmo-edge 是什么?
面向 Sophon、Rockchip RKNN 和 x86 的 C++ 边缘 AI 引擎,将视频分析与端侧 VLM 模型部署为可运行的应用。 CosmoEdge 是用 C++ 编写的边缘 AI 引擎,用于在边缘设备上运行视频分析和视觉语言模型(VLM)任务。项目覆盖模型导入、浏览器中的可视化流程编排、告警规则、OSD 叠加以及通过 REST、WebSocket、MQTT 和 HTTP Webhook 推送事件。
cosmo-edge 可以免费使用吗?用的什么许可证?
cosmo-edge 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
cosmo-edge 还在维护吗?
活跃维护中。cosmo-edge 最近一次提交是在 2026年10月19日。
cosmo-edge 适合用来做什么?
在边缘盒子上对多路视频进行安全或入侵检测分析。 通过 MQTT 或 Webhook 将提示词驱动的视觉判断告警推送到现有系统。 先在 x86 上验证视频 AI 流程,再部署到 Sophon 或 Rockchip 硬件。
cosmo-edge 怎么安装和运行?
克隆仓库: git clone https://github.com/cosmo-wander-ai/cosmo-edge.git 进入项目目录: cd cosmo-edge 使用 Docker Compose 启动 x86 Linux 版本: sudo docker compose -f docker-compose.x86.yml up -d --build 在 localhost:8080 打开 Web 控制台
在哪里获取 cosmo-edge?
源代码和安装说明在 GitHub 上:https://github.com/cosmo-wander-ai/cosmo-edge

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目