“llms” 相关开源项目

一个 Python 库，在生成过程中约束 LLM 输出，使其符合指定的类型、正则、JSON Schema 或语法。

基于多智能体群体模拟的预测引擎，可从新闻、政策等种子材料构建数字世界来推演未来走向。

一款 macOS 菜单栏应用，用于在本机运行大语言模型，基于 llama.cpp 构建，提供本地 API 服务和内置 WebUI。

跨平台桌面 AI 助手，接入主流大模型服务，同时作为 MCP 客户端并支持本地知识库。