CURATED OPEN SOURCE INTELLIGENCE

大语言模型基础设施

新发现OCT 18

surya-koritala/glyd — bf16 权重与 KV 缓存的无损压缩

介绍 surya-koritala/glyd 的无损 GPU 内存压缩方式，以及其 README 中公布的实测结果。

新发现OCT 17

fesens/opentpu 是一个由 AI 代理设计的开源 AI 加速器仓库，把从硬件到编译器的内容集中在一个仓库中，并给出了 Kintex-7 卡片上的运行结果。

新发现OCT 16

介绍在 macOS 15 Sequoia 上通过 Metal 驱动 NVIDIA GeForce 显卡的驱动构成，以及已验证的范围。