github.devotd.
新发现大语言模型基础设施

fesens/opentpu — 由 AI 代理设计的开源 AI 加速器

fesens/opentpu 是一个由 AI 代理设计的开源 AI 加速器仓库,把从硬件到编译器的内容集中在一个仓库中,并给出了 Kintex-7 卡片上的运行结果。

仓库信息fesens/opentpu ↗

An open-source AI accelerator, developed by AI: RTL, ISA, simulator, compiler and profiler in one repo. Runs Qwen3, LFM2.5 and Qwen3.5 on a Kintex-7 PCIe card.

星标
★ 757
复刻
61
语言
Verilog
许可证
Apache-2.0
查看原始来源 ↗在 GitHub 查看 ↗

fesens/opentpu 是一个由 AI 代理设计的开源 AI 加速器仓库。没有最新发布版本,代码以 Verilog 编写,遵循 Apache-2.0 许可证。硬件 RTL、指令集(ISA)、位精确模拟器、内核语言编译器和主机软件都集中在一处。它并非只公开了某些部件,而是一个可以完整考察构成并操作该加速器的软硬件全流程的项目。

仓库说明它可以在 Kintex-7 PCIe 卡上运行 Qwen3、LFM2.5 和 Qwen3.5,并指出实际卡片上的执行结果与模拟器在 token 级别上一致。README 给出了以 DDR3-1066 为基准的峰值带宽 17.1 GB/s 以及解码时的带宽,并写明测量方式为在 512 token 提示词之后以贪心方式生成 64 个 token。其特点在于 RTL、模拟器、编译器和板级测试一并公开,便于考察彼此契合的结构。

不过,处理量和带宽是作者自行测量得出的数据。没有确认到独立验证、原始日志或复现脚本,因此很难把这些性能数字当作已确定的结果。就研究加速器实现与验证结构而言,这个仓库的细节相当具体,但仅凭公开数字判断实际性能,证据仍然有限。