Devotd Github
新发现推理与服务

markab21/rpn-gpt — Nemotron 3.5 Lightning 内部的 Forth 机器

markab21/rpn-gpt 介绍了一种把 Forth 机器放进 Nemotron 3.5 Lightning 的权重中,并对模型进行后训练使其使用该机器的构成。

仓库信息markab21/rpn-gpt ↗

markab21/rpn-gpt 介绍了一种把 Forth 机器放进 Nemotron 3.5 Lightning 的权重中,并对模型进行后训练使其使用该机器的构成。

GitHub 项目说明: An exact Forth machine compiled into Nemotron 3.5 Lightning's weights, and the post-training that teaches the model to use it.

星标
★ 3
复刻
1
语言
Python
许可证
MIT
查看原始来源 ↗在 GitHub 查看 ↗

markab21/rpn-gpt 是一个项目:它在 Nemotron 3.5 Lightning 的权重内部编译出一台精确的 Forth 机器,并对模型进行后训练,使其使用该机器。仓库说明提出的一种构成是,模型在生成普通文本形式的程序时,同时运行一台用于计算的栈机器。它的重点不是某个版本的具体变更,而是把计算装置嵌入模型内部的实验设计。

逆波兰式(RPN)是一种先把值压入栈、再把运算符放在后面的记法。在这个项目中,模型会在生成过程中执行它自己写出的程序。README 用示意图和逐 token 示例说明如何借助隐藏 token 执行机器步骤并续写结果,同时提供执行日志和计算示例。该构成包含 Nemotron 3.5 Lightning、LoRA、以权重计算出的 Forth 机器、训练数据,以及多种部署格式的模型。仓库使用 Python 编写,采用 MIT 许可证。

这种方式的核心是在模型内部把文本生成与计算连接起来。不过,所提供的信息中没有性能分数或对比结果,也没有列出最新版本。因此,示例和执行日志展示了该设计的运作方式,但不足以作为判断实际计算性能的依据。