nandhakishorm/laya 是一个非自回归决策引擎,它基于文本在一次前向传播中完成选项选择、评分计算和是/否判定。最新版本为 v0.4.9。所提供的资料没有说明这一版本有哪些变化。该仓库使用 Python 编写,采用 Apache-2.0 许可证。
它的核心不是续写句子,而是输出预定义类型的判断结果。据项目介绍,它支持 100 多种语言,并包含一个为请求挑选合适检查点的路由器。README 摘要说明它采用了符合严格恰当评分规则(RLCD)的强化学习进行训练。它还给出了 T4 上每个问题 p50 为 32.8 毫秒的数据,但这是它自己的测量值。因此,它更像是用于答案形式固定的任务(如选择或分类)的工具,而不是用来取代生成式模型。
README 中说明的局限也很清楚。当输入超过 4000 个 token 时,20 道题中的正确数在 8 到 17 之间波动;在 MASSIVE 基准上,多语言模型的宏平均准确率为 0.40。typed-decisions 的 0.766 是某个微调检查点的数值,而仓库中没有对应的结果文件。因此,仅凭这些数字很难判断长输入或多语言场景下的表现。