receptron/laya は、テキストを生成するのではなく選択とスコアを返す Jev 互換 System-1 判断モデルを Node.js と TypeScript で実行するパッケージです。GitHub に記録された最新リリースは v0.2.0 です。提供された情報にはこのバージョンの変更一覧がないため、具体的な変更内容は確認できません。
このモデルは状態オブジェクトと型付きの質問を受け取り、choice、score、noul の3種類の補正確率を一度の順方向伝播で返します。チケットのルーティング例は、部署の選択確率、緊急度スコア、離脱リスク確率をそれぞれ示しています。Node.js 20 以上で ONNX Runtime を介して動作し、Python ランタイムは不要です。README は Python 参照実装と小数点以下4桁まで出力が一致すると述べています。したがってこれは、テキスト生成モデルというより、エージェントパイプラインにルーティングと分類を加える判断モデルです。
ただし fp32 の重みは約 1.7 GB で、リポジトリには含まれていません。初回使用時に Hugging Face から取得してローカルにキャッシュし、出力一致の検証も重みが用意された環境でのみ実行されます。性能の根拠は、コールドダウンロードと140ミリ秒のウォームレイテンシという単一環境での測定に限られます。複数のOSとNodeバージョンの組み合わせによるCI検査は用意されていますが、性能の数値だけから実際の環境での速度を判断するのは困難です。