“llm” 相关开源项目

面向 AI Agent 团队的记忆中枢，把对话、文档和代码转为可共享、可管控的记忆资产。

面向 NVIDIA GPU 与昆仑芯 XPU 的大模型训练框架，覆盖 LLM、VLM、扩散与具身模型。

开源 Python 框架，用于构建实时语音和多模态 AI 智能体，可插拔接入语音、大模型与传输服务。

一门免费开源的 AI 工程课程，共 542 节课，用 Python、TypeScript、Rust 和 Julia 从零实现核心概念。

为 Claude Code、Cursor、Codex 等 AI 编程助手提供持久化记忆，自动记录会话并在新会话中注入相关上下文。

社区共建的开源 AI 模型数据库，收录模型规格、价格与能力信息，并提供公开 API。

本地代理与追踪查看器，捕获 Claude Code、Codex CLI 等 AI 编程代理的 API 流量，便于查看提示词、工具调用与 token 用量。

一款命令行工具，自动检测 GPU、CPU 和内存，从 HuggingFace 上挑选真正能在你的机器上运行、且表现最好的本地大模型。

一个开源 Go 框架，把可复用的 AI 提示词（称为 Pattern）按任务组织，可在命令行或 REST API 中调用。

在内容发送给大模型前压缩工具输出、日志、文件和 RAG 片段的上下文压缩层。

用 Rust 编写的引擎无关 LLM 网关，将兼容 OpenAI 和 Anthropic 的请求分发到自部署推理引擎与云端模型服务。

基于多智能体群体模拟的预测引擎，可从新闻、政策等种子材料构建数字世界来推演未来走向。

一门面向产品人员与开发者的 Vibe Coding 实战课程，带你从想法走到产品上线。

在 GitHub PR 和 Issue 中运行 Claude Code，用于回答问题、审查代码和实现改动。

基于大语言模型的视频字幕工具，覆盖语音识别、断句、校正、翻译到字幕合成的全流程。

DSH 插件，可在助手回复中直接渲染图表、表格、表单、测验、函数图等交互式界面组件。

开源桌面 AI 智能体应用与 Rust 库，可低成本运行大量智能体。

基于 OpenUI 的开源 Next.js 项目，复现 ChatGPT 的 Intelligent UI，将模型回答以可交互的地图、图表、表单和工具形式呈现。

在 12 GB 显存的 RTX 4070 上部署 Mirai S 27B 模型，支持完整 262k 上下文窗口。

自托管的 AI 智能体团队编排应用，提供组织架构、任务管理、预算与治理功能。