modelscope/evalscope 的最新版本是 v1.14.0。EvalScope 是 ModelScope Community 打造的 Python 框架,其 README 说明可以通过一条命令启动模型能力评估与推理性能压力测试。覆盖范围很广,包括 LLM、VLM、Embedding、Reranker、AIGC 以及智能体。
评估项包含 MMLU、C-Eval、GSM8K 等基准测试,并集成了 OpenCompass、VLMEvalKit、RAGEval 等多个评估后端。性能方面会测量 TTFT(首个 token 延迟)和 TPOT(每个输出 token 耗时)等指标,Web Dashboard 则可用于模型对比、评估报告和详细结果。该仓库创建于 2023 年 12 月,采用 Apache-2.0 许可证,star 数为 3565。
不过,由于这条记录没有发布说明,无法确认 v1.14.0 具体改动了什么。可依据的只有 README 所述的功能范围,以及 2.8 的 momentum 评分(满分 10 分)。文中没有给出性能实测数值,只说明会测量这些指标,因此难以判断模型之间的优劣。把模型能力评估与性能压力测试合并到一个工具里是实用的配置,但在无法得知改动内容的情况下,先看看它的功能范围是值得的。