ninjahawk/livenerf 是一个长期基准,用于追踪顶级模型公开后能力下降了多少。它用 Python 编写,以 MIT 许可证开源。GitHub 星标数为 1544,仓库创建于 2026 年 9 月 22 日。目前还没有公开的发布版本。这个仓库公开的是每天重复的测量记录,以及用来判定结果的那套流程。
README 说明,其目标是以可复现的方式衡量前沿模型(即顶级模型)在发布后是否悄然变差。它把 2336 道试题分成四个测试组,各试跑 4 轮,使前 93% 每次都被答对,只留下 78 题判定存疑,然后按事前注册的流程确定结论。它每天用 harness 哈希 461391b6fce64167、命令行版本 2.1.280 和固定提示词跑 90 次采样,用统计方法估计漂移。评分建立在 UK AI Security Institute 的检查框架 Inspect 之上,统计处理方式则遵循 Anthropic 那篇关于大语言模型评估误差棒的论文 Adding Error Bars to Evals。仓库同时提供八套试题和校准脚本,便于重新复现试题构成与评分过程,事前注册文档(PREREGISTRATION.md 26KB、PLAN.md 21KB)与结果校准文档(CALIBRATION.md、VALIDATION.md、DESIGN.md)则分开存放。
不过,截至 2026 年 10 月 17 日,记录只填满了 30 天中的 25 天,按 10 天基准区间算出的最小可检测效应是每 10 天区间 6.6 分。比每 10 天区间 6.6 分更小的变化,用这套设计很难检测出来。实现规模很小,而且基准绑在单一厂商的单一模型上,泛化能力同样受限。在已收集的评估分数中,动量在 10 分制下只有 3.7,偏低,新颖性 8.0、技术 7.0、质量 8.0。记录仍然很薄,现在能指望的只是这套漂移监控方法论本身。