用于评估提示词和对 LLM 应用做红队测试的命令行工具与库,支持声明式配置和 CI/CD 集成。
open-compass/opencompass
一站式大模型评测平台,覆盖 100 多个数据集,支持多种模型与推理后端。
- Star
- 7,531
- Fork
- 888
- 未关闭 Issue
- 376
- 最近提交
- 4小时前
这是什么?
OpenCompass 是一个大模型评测平台,支持 OpenAI、Anthropic、Gemini、Qwen、GLM、DeepSeek 等厂商的模型,也支持本地开源模型。平台覆盖 100 多个数据集,涉及知识、推理、代码、科学、语言、长文本和安全等维度。
它提供从数据集与模型配置、推理、评测到结果汇总的完整流程。推理可以基于 HuggingFace、LMDeploy 或 vLLM 后端运行,评测方式包括 zero-shot、few-shot、思维链、规则判分以及 LLM-as-judge。任务切分、并发与分布式执行可适应不同规模的评测任务。
平台还集成了 VLMEvalKit,可在同一套流程中评测纯文本与视觉语言数据集。用户可以通过扩展接口接入新的模型、数据集、评测器和推理后端。
核心功能
- 01支持 OpenAI、Anthropic Claude、Google Gemini 等 API 模型以及本地开源模型。
- 02覆盖知识、推理、代码、科学、长文本、安全等 100 多个数据集。
- 03可基于 HuggingFace、LMDeploy 或 vLLM 后端进行推理。
- 04提供规则判分、LLM-as-judge 和数学结果验证等评测器。
- 05支持任务切分、并发与分布式执行。
- 06集成 VLMEvalKit,可评测视觉语言数据集。
适用场景
- 在统一的基准数据集上横向比较多个开源模型或 API 模型。
- 在模型开发或微调过程中进行可复现的评测。
- 在同一流程中评测多模态模型的文本与视觉语言能力。
快速上手
- 1
使用 Python 3.12 创建 conda 环境
conda create --name opencompass python=3.12 -y - 2
激活该环境
conda activate opencompass - 3
通过 pip 安装 OpenCompass
pip install -U opencompass - 4
阅读文档中的快速入门指南,运行第一个评测任务
使用前须知
- 部分数据集(APPS、TACO、LiveCodeBench 代码生成)需要 Python 3.10,因为依赖 pyext。
- LMDeploy 和 vLLM 等推理后端因依赖冲突需要单独安装。
标签
常见问题
- opencompass 是什么?
- 一站式大模型评测平台,覆盖 100 多个数据集,支持多种模型与推理后端。 OpenCompass 是一个大模型评测平台,支持 OpenAI、Anthropic、Gemini、Qwen、GLM、DeepSeek 等厂商的模型,也支持本地开源模型。平台覆盖 100 多个数据集,涉及知识、推理、代码、科学、语言、长文本和安全等维度。
- opencompass 可以免费使用吗?用的什么许可证?
- opencompass 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
- opencompass 还在维护吗?
- 活跃维护中。opencompass 最近一次提交是在 2026年10月21日。
- opencompass 适合用来做什么?
- 在统一的基准数据集上横向比较多个开源模型或 API 模型。 在模型开发或微调过程中进行可复现的评测。 在同一流程中评测多模态模型的文本与视觉语言能力。
- opencompass 怎么安装和运行?
- 使用 Python 3.12 创建 conda 环境: conda create --name opencompass python=3.12 -y 激活该环境: conda activate opencompass 通过 pip 安装 OpenCompass: pip install -U opencompass 阅读文档中的快速入门指南,运行第一个评测任务
- 在哪里获取 opencompass?
- 源代码和安装说明在 GitHub 上:https://github.com/open-compass/opencompass
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
2.6万2521TypeScriptMIT更新于 昨天
一个可定制的大模型评测框架,覆盖 LLM、VLM 和 AIGC 模型的基准评测与推理性能压测。
3571531PythonApache-2.0更新于 5小时前
统一的语言模型少样本评测框架,覆盖大量标准学术基准测试。
1.4万3698PythonMIT更新于 上个月
用于评测语言模型能否通过生成补丁解决真实 GitHub Issue 的基准与 Docker 评测工具。
60581022PythonMIT更新于 上个月
一个公开排行榜,用 Vectara 的 HHEM 评估模型衡量各大语言模型在短文档摘要中产生幻觉的频率。
3322107PythonApache-2.0更新于 4天前
用于评估多模态智能体在真实桌面操作系统中完成开放式电脑任务的基准测试与运行环境。
3225548PythonApache-2.0更新于 昨天