Repolode
open-compass

open-compass/opencompass

一站式大模型评测平台,覆盖 100 多个数据集,支持多种模型与推理后端。

Star
7,531
Fork
888
未关闭 Issue
376
最近提交
4小时前

这是什么?

OpenCompass 是一个大模型评测平台,支持 OpenAI、Anthropic、Gemini、Qwen、GLM、DeepSeek 等厂商的模型,也支持本地开源模型。平台覆盖 100 多个数据集,涉及知识、推理、代码、科学、语言、长文本和安全等维度。

它提供从数据集与模型配置、推理、评测到结果汇总的完整流程。推理可以基于 HuggingFace、LMDeploy 或 vLLM 后端运行,评测方式包括 zero-shot、few-shot、思维链、规则判分以及 LLM-as-judge。任务切分、并发与分布式执行可适应不同规模的评测任务。

平台还集成了 VLMEvalKit,可在同一套流程中评测纯文本与视觉语言数据集。用户可以通过扩展接口接入新的模型、数据集、评测器和推理后端。

核心功能

  • 01支持 OpenAI、Anthropic Claude、Google Gemini 等 API 模型以及本地开源模型。
  • 02覆盖知识、推理、代码、科学、长文本、安全等 100 多个数据集。
  • 03可基于 HuggingFace、LMDeploy 或 vLLM 后端进行推理。
  • 04提供规则判分、LLM-as-judge 和数学结果验证等评测器。
  • 05支持任务切分、并发与分布式执行。
  • 06集成 VLMEvalKit,可评测视觉语言数据集。

适用场景

  • 在统一的基准数据集上横向比较多个开源模型或 API 模型。
  • 在模型开发或微调过程中进行可复现的评测。
  • 在同一流程中评测多模态模型的文本与视觉语言能力。

快速上手

  1. 1

    使用 Python 3.12 创建 conda 环境

    conda create --name opencompass python=3.12 -y
  2. 2

    激活该环境

    conda activate opencompass
  3. 3

    通过 pip 安装 OpenCompass

    pip install -U opencompass
  4. 4

    阅读文档中的快速入门指南,运行第一个评测任务

使用前须知

  • 部分数据集(APPS、TACO、LiveCodeBench 代码生成)需要 Python 3.10,因为依赖 pyext。
  • LMDeploy 和 vLLM 等推理后端因依赖冲突需要单独安装。

标签

常见问题

opencompass 是什么?
一站式大模型评测平台,覆盖 100 多个数据集,支持多种模型与推理后端。 OpenCompass 是一个大模型评测平台,支持 OpenAI、Anthropic、Gemini、Qwen、GLM、DeepSeek 等厂商的模型,也支持本地开源模型。平台覆盖 100 多个数据集,涉及知识、推理、代码、科学、语言、长文本和安全等维度。
opencompass 可以免费使用吗?用的什么许可证?
opencompass 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
opencompass 还在维护吗?
活跃维护中。opencompass 最近一次提交是在 2026年10月21日。
opencompass 适合用来做什么?
在统一的基准数据集上横向比较多个开源模型或 API 模型。 在模型开发或微调过程中进行可复现的评测。 在同一流程中评测多模态模型的文本与视觉语言能力。
opencompass 怎么安装和运行?
使用 Python 3.12 创建 conda 环境: conda create --name opencompass python=3.12 -y 激活该环境: conda activate opencompass 通过 pip 安装 OpenCompass: pip install -U opencompass 阅读文档中的快速入门指南,运行第一个评测任务
在哪里获取 opencompass?
源代码和安装说明在 GitHub 上:https://github.com/open-compass/opencompass

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目