Repolode
提交项目
midudev

midudev/runonweb.ai

开源的浏览器端 AI 模块集合，通过 WebGPU 或 WASM 在设备本地运行语音识别、抠图、向量嵌入、翻译等任务。

在 GitHub 查看官网
Star
776
Fork
76
未关闭 Issue
0
最近提交
14天前

这是什么？

runonweb.ai 是一组完全在浏览器中运行的开源 AI 模块，并附带对应的 `runonweb` npm 包。每项任务都有独立的导入路径，涵盖语音转文字、背景移除、图像描述、深度估计、目标检测、文本向量嵌入、文本分类、翻译、表情符号预测和文字转语音。

支持 WebGPU 的浏览器会优先使用 WebGPU 加速，否则回退到 WASM，推理全程在用户设备上完成，数据不会离开设备。每个模块都基于采用 Apache-2.0 或 MIT 等宽松许可的开源模型，演示页面会标注基础模型、作者和许可证。

仓库为 monorepo 结构：Astro 站点位于 `packages/web`，部署到 Cloudflare Workers；库代码位于 `packages/runonweb`。项目还记录了在不同后端上测试时发现的问题，例如哪些量化格式在 WebGPU 上会出错，以及哪些模型需要固定使用 WASM。

核心功能

  • 01为语音识别、抠图、图像描述、深度估计、目标检测、向量嵌入、分类、翻译、表情符号和语音合成分别提供独立导入路径。
  • 02支持 WebGPU 时优先使用，否则自动回退到 WASM。
  • 03推理在浏览器本地完成，输入数据不会上传到服务器。
  • 04每个模块都基于 Apache-2.0 或 MIT 许可的开源模型。
  • 05提供 WebGPU 可用性检测函数，以及用于向量比较的余弦相似度函数。

适用场景

  • 在网页应用中集成浏览器内语音转写或语音合成，无需后端接口。
  • 在客户端完成抠图，适合处理隐私敏感的照片。
  • 在浏览器中直接对文本做语义搜索或相似度比较。
  • 验证端侧 AI 功能原型，并对比 WebGPU 与 WASM 的表现。

快速上手

  1. 1

    使用 pnpm 安装依赖

    pnpm install
  2. 2

    启动本地开发服务器

    pnpm dev

使用前须知

  • 项目元数据未声明许可证，代码的复用条款不明确。
  • 部分模块只能使用 WASM 运行，速度比 WebGPU 慢。
  • 图像描述模块的 LFM 许可证仅对年收入低于 1000 万美元的用户免费。
  • 分类模块的 large 版本下载体积约为 2.7 GB。

收录于专题

本地运行大模型AI 视频与音频工具

标签

#webgpu#local-ai#web-ai#onnx#browser#embeddings#speech-to-text#wasm#ai-model#ai-models

常见问题

runonweb.ai 是什么？
开源的浏览器端 AI 模块集合，通过 WebGPU 或 WASM 在设备本地运行语音识别、抠图、向量嵌入、翻译等任务。 runonweb.ai 是一组完全在浏览器中运行的开源 AI 模块，并附带对应的 `runonweb` npm 包。每项任务都有独立的导入路径，涵盖语音转文字、背景移除、图像描述、深度估计、目标检测、文本向量嵌入、文本分类、翻译、表情符号预测和文字转语音。
runonweb.ai 可以免费使用吗？用的什么许可证？
runonweb.ai 没有声明许可证。代码虽然公开，但没有许可证就没有明确的使用授权，正式使用前建议先联系作者。
runonweb.ai 还在维护吗？
活跃维护中。runonweb.ai 最近一次提交是在 2026年10月24日。
runonweb.ai 适合用来做什么？
在网页应用中集成浏览器内语音转写或语音合成，无需后端接口。 在客户端完成抠图，适合处理隐私敏感的照片。 在浏览器中直接对文本做语义搜索或相似度比较。 验证端侧 AI 功能原型，并对比 WebGPU 与 WASM 的表现。
runonweb.ai 怎么安装和运行？
使用 pnpm 安装依赖: pnpm install 启动本地开发服务器: pnpm dev
在哪里获取 runonweb.ai？
源代码和安装说明在 GitHub 上：https://github.com/midudev/runonweb.ai

概要由 AI 根据项目 README 生成；GitHub 数据每日更新。

相关项目