github.devotd.
新发现评测

modelscope/evalscope v1.14.0 — 模型能力评估与性能压力测试

ModelScope Community 打造的 Python 框架 EvalScope,让你可以用一条命令启动 LLM、VLM 等模型的能力评估与推理性能压力测试。

仓库信息modelscope/evalscope ↗

ModelScope Community 打造的 Python 框架 EvalScope,让你可以用一条命令启动 LLM、VLM 等模型的能力评估与推理性能压力测试。

GitHub 项目说明: A streamlined and customizable framework for efficient large model (LLM, VLM, AIGC) evaluation and performance benchmarking.

星标
★ 3.6K
复刻
530
语言
Python
许可证
Apache-2.0
最新版本
v1.14.0
查看原始来源 ↗在 GitHub 查看 ↗

modelscope/evalscope 的最新版本是 v1.14.0。EvalScope 是 ModelScope Community 打造的 Python 框架,其 README 说明可以通过一条命令启动模型能力评估与推理性能压力测试。覆盖范围很广,包括 LLM、VLM、Embedding、Reranker、AIGC 以及智能体。

评估项包含 MMLU、C-Eval、GSM8K 等基准测试,并集成了 OpenCompass、VLMEvalKit、RAGEval 等多个评估后端。性能方面会测量 TTFT(首个 token 延迟)和 TPOT(每个输出 token 耗时)等指标,Web Dashboard 则可用于模型对比、评估报告和详细结果。该仓库创建于 2023 年 12 月,采用 Apache-2.0 许可证,star 数为 3565。

不过,由于这条记录没有发布说明,无法确认 v1.14.0 具体改动了什么。可依据的只有 README 所述的功能范围,以及 2.8 的 momentum 评分(满分 10 分)。文中没有给出性能实测数值,只说明会测量这些指标,因此难以判断模型之间的优劣。把模型能力评估与性能压力测试合并到一个工具里是实用的配置,但在无法得知改动内容的情况下,先看看它的功能范围是值得的。