基于 PyTorch 的计算机视觉工具库,支持目标检测、实例分割和图像分类的训练与模型导出。
cosmo-wander-ai/cosmo-edge
面向 Sophon、Rockchip RKNN 和 x86 的 C++ 边缘 AI 引擎,将视频分析与端侧 VLM 模型部署为可运行的应用。
- Star
- 1,838
- Fork
- 312
- 未关闭 Issue
- 21
- 最近提交
- 昨天
这是什么?
CosmoEdge 是用 C++ 编写的边缘 AI 引擎,用于在边缘设备上运行视频分析和视觉语言模型(VLM)任务。项目覆盖模型导入、浏览器中的可视化流程编排、告警规则、OSD 叠加以及通过 REST、WebSocket、MQTT 和 HTTP Webhook 推送事件。
每次构建只针对一种推理后端:Sophon BM1688 和 CV186X 使用 BMRT,Rockchip RK3576 和 RV1126B 使用带 MPP/RGA 的 RKNN,x86 Linux 与 Windows 使用 ONNX Runtime 和 FFmpeg。模型需要针对实际运行的芯片单独生成。x86 模式无需边缘硬件即可使用相同的控制台和流程,但吞吐量较低。
项目还包含 GroundingDINO 开放词汇检测、基于提示词的 VLM 判断,以及 ONVIF 和 GB28181 摄像头接入,并为各平台提供基于 Docker 的构建方式。v1.1.0 版本附有各芯片的性能基准报告。
核心功能
- 01在浏览器控制台中可视化组合处理流程并绑定任务。
- 02支持检测、分类、跟踪、区域、计数、OSD 叠加和告警截图。
- 03支持基于提示词的 VLM 判断和 GroundingDINO 开放词汇检测。
- 04通过 REST、WebSocket、MQTT 和 HTTP Webhook 推送事件。
- 05支持 ONVIF 和 GB28181 摄像头接入。
- 06提供 Sophon、Rockchip 和 x86 的 Docker 构建方式。
适用场景
- 在边缘盒子上对多路视频进行安全或入侵检测分析。
- 通过 MQTT 或 Webhook 将提示词驱动的视觉判断告警推送到现有系统。
- 先在 x86 上验证视频 AI 流程,再部署到 Sophon 或 Rockchip 硬件。
快速上手
- 1
克隆仓库
git clone https://github.com/cosmo-wander-ai/cosmo-edge.git - 2
进入项目目录
cd cosmo-edge - 3
使用 Docker Compose 启动 x86 Linux 版本
sudo docker compose -f docker-compose.x86.yml up -d --build - 4
在 localhost:8080 打开 Web 控制台
使用前须知
- 边缘 NPU 部署需要特定硬件(Sophon、Rockchip);x86 模式吞吐量较低。
- Apple Silicon macOS 仅为预览版,通过 amd64 模拟运行单路视频工作流。
- 当前 main 分支的改动不包含在稳定版 v1.1.0 安装包中。
标签
常见问题
- cosmo-edge 是什么?
- 面向 Sophon、Rockchip RKNN 和 x86 的 C++ 边缘 AI 引擎,将视频分析与端侧 VLM 模型部署为可运行的应用。 CosmoEdge 是用 C++ 编写的边缘 AI 引擎,用于在边缘设备上运行视频分析和视觉语言模型(VLM)任务。项目覆盖模型导入、浏览器中的可视化流程编排、告警规则、OSD 叠加以及通过 REST、WebSocket、MQTT 和 HTTP Webhook 推送事件。
- cosmo-edge 可以免费使用吗?用的什么许可证?
- cosmo-edge 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
- cosmo-edge 还在维护吗?
- 活跃维护中。cosmo-edge 最近一次提交是在 2026年10月19日。
- cosmo-edge 适合用来做什么?
- 在边缘盒子上对多路视频进行安全或入侵检测分析。 通过 MQTT 或 Webhook 将提示词驱动的视觉判断告警推送到现有系统。 先在 x86 上验证视频 AI 流程,再部署到 Sophon 或 Rockchip 硬件。
- cosmo-edge 怎么安装和运行?
- 克隆仓库: git clone https://github.com/cosmo-wander-ai/cosmo-edge.git 进入项目目录: cd cosmo-edge 使用 Docker Compose 启动 x86 Linux 版本: sudo docker compose -f docker-compose.x86.yml up -d --build 在 localhost:8080 打开 Web 控制台
- 在哪里获取 cosmo-edge?
- 源代码和安装说明在 GitHub 上:https://github.com/cosmo-wander-ai/cosmo-edge
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
面向手机、可穿戴设备、机器人和微控制器的端侧小模型,支持工具调用、结构化抽取、向量嵌入和语音转文字。
开源深度学习推理工具包,用于优化模型并部署到 Intel CPU、GPU 和 NPU 上运行。
一款跨平台桌面应用,用 AI 辅助标注文本、图像、视频、点云和多模态数据,支持多种格式导出。
PyTorch 官方的端侧推理框架,用于在手机、笔记本、浏览器和微控制器上运行模型。
基于 C++ 的视频结构化分析框架,以可插拔节点组成流水线,覆盖取流、推理、跟踪与输出。