提供 Linux 内核模块和本地固件生成工具的 justaresearcher/gpu-unlock-ada 在 v1.1.1 中公开了 TF32 与 CUTLASS FP8 GEMM 的测量结果及复现材料。
提供 Linux 内核模块和本地固件生成工具的 justaresearcher/gpu-unlock-ada 在 v1.1.1 中公开了 TF32 与 CUTLASS FP8 GEMM 的测量结果及复现材料。
GitHub 项目说明: GPU tensor unlock source for RTX 4090 and experimental RTX 4070 Ti SUPER; firmware generated locally
justaresearcher/gpu-unlock-ada 提供用于改变 NVIDIA 显卡张量运算路径的 Linux 内核模块和固件生成工具。在 v1.1.1 中，项目公开了张量运算发射率测量结果，以及复现所需的产物与哈希。在相同的功耗上限条件下，TF32 发射率为 1.99 倍，CUTLASS FP8 GEMM 为 1.95 倍。这些是命令发射率的测量结果，并不意味着应用程序性能提升。
该项目的做法是同时处理显卡固件路径与 Linux 内核模块。README 链接了 RTX 4090 与实验性 RTX 4070 Ti SUPER 的单设备测量结果和原始记录。因此可以沿着公开的数值和复现材料，考察特定显卡的张量运算路径。实现语言为 C，许可证为 GPL-2.0。
不过 README 也区分说明，部分命令处理率的上升未必会以同样的幅度转化为实际应用程序性能。实际场景中的 GEMM 加速尚未得到证明。与 Windows 相关的移植也作为独立实验处理，不应与 Linux 模块的支持目标混为一谈。目前资料所支持的只是对有限几款显卡的发射率测量，实际任务的性能提升仍需后续验证。
efficientmoe/moe-infinity 新增了一个提交，把 Qwen3.5-MoE 的门控全注意力层连接到分页 KV 缓存上，修复了原本会崩坏的多 token 解码。
llamastash/llamastash 是一个基于 Rust 的终端工具，用统一接口操作多个本地语言模型运行引擎，仓库的最新发布版本为 v0.10.0。
janas 的最新提交用与 llama.cpp 相同的 8 位 KV 缓存条件重新测量了长上下文对比表，并据此更新了三份文档。
没有符合条件的动态。