Devotd Github
新发现推理与服务

mizorewww/laya-mlx v0.5.0 — 面向 Apple Silicon 的 MLX 决策模型运行时

用于在 Apple Silicon 上通过 MLX 运行 Laya 类型化决策模型的运行时仓库。

仓库信息mizorewww/laya-mlx ↗

用于在 Apple Silicon 上通过 MLX 运行 Laya 类型化决策模型的运行时仓库。

GitHub 项目说明: Native MLX runtime for Laya typed decision models — 7–14 ms short decisions on M3 Max. No text generation, PyTorch, or cloud API.

星标
★ 7K
复刻
570
语言
Python
许可证
Apache-2.0
最新版本
v0.5.0
查看原始来源 ↗在 GitHub 查看 ↗

mizorewww/laya-mlx 是一个独立移植的仓库,让 Laya 的类型化决策模型在 Apple Silicon 上通过 MLX 运行。已确认的最新版本是 v0.5.0。现有资料中没有列出该版本的变更内容。

该运行时不续写句子,而是对既定问题作出决策。`choice` 返回各选项的概率,`score` 返回按评分标准计算的期望分数,`noul` 返回命题为真的概率。不需要先用双向编码器生成 JSON 再进行解析。它提供英语及多语言的 typed-decisions 检查点,以及 Python API、CLI 和 Snake 演示,而 RLCD 训练与微调在上游项目中进行。它无需 PyTorch 或云端 API 即可在 MLX 中运行,并且具备公开权重与判断概率输出,这套配置可用于本地智能体路由。

仓库说明中给出的较短决策延迟以 M3 Max 为基准为 7–14 ms。它在相同执行条件下报告了编译路径与前缀复用路径的即席执行对照组和配对比较,但没有依据把这些数值外推到其他硬件的性能上。由于单条问题的 API 基准测试与实际游戏循环延迟必须区分开来,所述延迟只能在对应设备与测量范围内作为参考。