Devotd Github
新发现评测

toloka/tolokaforge — 缩小 Langfuse 安全门的误报并加入 secrets: mask

2026年11月6日的提交为 toloka/tolokaforge 的 Langfuse 集成包加入了 secrets: mask 模式,减少了数据安全门的误报并对机密信息进行遮蔽。

仓库信息toloka/tolokaforge ↗

2026年11月6日的提交为 toloka/tolokaforge 的 Langfuse 集成包加入了 secrets: mask 模式,减少了数据安全门的误报并对机密信息进行遮蔽。

GitHub 项目说明: Universal LLM benchmarking harness for tool use, browser, mobile, coding, and long-horizon evals

星标
★ 22
复刻
13
语言
Python
许可证
NOASSERTION
最新版本
image-v0.32.0-rc.1
查看原始来源 ↗在 GitHub 查看 ↗

toloka/tolokaforge 是一个通用 LLM 基准测试框架,将工具使用、浏览器、移动端、编码和长期任务评估整合在一起。2026-11-06 的提交 3a13b4c 改动了该框架的 Langfuse 集成包 tolokaforge_langfuse。该包的数据安全门是一种装置,会扫描像 trace 或附件文件这样向外输出的数据,找出看起来像密码的值并阻止其导出。此次变更收窄了判定范围,使安全门更少把正当数据误认为机密而拦下,同时仍然拦下真正的机密。

豁免规则被收窄了。指向回环地址或 compose 服务名(db、postgres)、且密码与用户名相同并且是 12 个字符以内的单一字符类的数据库 URL,以及作为 40 位十六进制指纹的 GPG_KEY,属于豁免范围。主机之后还带有其他 @、后面跟着 host、hostaddr、service 参数,或超过 1KiB 的 URL 则不在例外之列。dotenv 行不区分名称大小写都会读取,但如果名称不是全大写,其值就不被视为机密,因此 `txn_key = compute(x)` 这样的行不会被拦下。豁免件数按规则分别统计,运行结束后会留下带有规则名称的一行警告。

在默认的 secrets: reject 旁边新增了 secrets: mask。在该模式下,只替换文件中的机密并重新编码,sha256 和 bytes 以被遮蔽的字节为基准计算,被遮蔽的文件也计为已附加。trace 元数据 schema 从 34 个键增加到 36 个键,bookkeeping 分组中新增了 secrets 和 secrets_masked。转录清洗调整了顺序,改为先整体遮蔽再截断。之所以如此,是因为密钥前缀之后的 10 个字符因格式不匹配而未被遮蔽,剩余字符可能会原样输出。

不过,这一变更仅限于 Langfuse 连接器在导出数据之前的检查。即便通过遮蔽也无法隐藏的文件,以及遮蔽之后无法还原为 YAML 或 JSON 的文件,与 reject 一样会被跳过。评测框架整体和模型性能都没有改动,提交信息也承认,安全门所不认识的形态的凭据仍然可能通过。同一条提交信息说明,该变更来自其后的跟进改动,其中包含绑定到遮蔽策略的测试和共享向量文件。检查在同名内容长时间延续的输入上变得呈平方级缓慢的问题,也通过按分段限制予以修复,提交信息写明修复前处理 96KB 的 KEY 字符串需要 21 秒。就现阶段而言,这是对那些因传输阻断的误报而受阻的团队切实有用的改动。