github.devotd.
新着推論・サービング

nandhakishorm/laya v0.4.9 — 非自己回帰型意思決定エンジン

nandhakishorm/laya の v0.4.9 と、選択・採点・はい/いいえ判定を行うエンジンの対応範囲、および公開されている限界を確認する。

リポジトリ情報nandhakishorm/laya ↗

Non-autoregressive System 1 decision engine. Typed choice, score and yes/no decisions over any text in a single forward pass, in 100+ languages, with a router that picks the right checkpoint per request.

スター
★ 33.3K
フォーク
3K
言語
Python
ライセンス
Apache-2.0
最新リリース
v0.4.11
原文を見る ↗GitHub で見る ↗

nandhakishorm/laya は、テキストに基づいて選択肢の選択、スコアの算出、はい・いいえの判定を 1 回の順方向パスで行う非自己回帰型の意思決定エンジンである。最新リリースは v0.4.9 だ。提供された資料には、このバージョンで何が変更されたDiversity記載されていない。リポジトリは Python で書かれ、ライセンスは Apache-2.0 を使っている。

文章を 이어 이어 生成するのではなく、決まった種類の判断結果を出して���ことが中核だ。プロジェクトの説明によると100 以上の言語に対応し、リクエストに適したチェックポイントを選ぶルーターも含んでいる。README の要約は、厳密に適切な採点規則(RLCD)に合わせた強化学習で学習したと説明している。T4 で質問 1 件あたり p50 32.8 ミリ秒という数値も示すが、これは自らの測定値である。したがって生成モデルを置き換えるものというより、選択や分類のように答えの形が決まったタスクに使うツールに近い。

README が明示する限界も明確だ。入力が 4 千トークンを超えると、20 問中の正解数が 8〜17 で揺れる。`、`MASSIVE` ベンチマークでは多言語モデルのマクロ正解率が 0.40 である。typed-decisions の 0.766 はコミットされた結果ファイルがないファインチューニング済みチェックポイントの数値だ。そのため、長い入力や多言語での性能をこの数字だけで判断するのは難しい。