ggml-org/ggml 是一个用于机器学习的张量库,记录在案的最新发布版本为 v0.27.0。仓库简介和 README 将其介绍为可移植的 C/C++ 实现,只需最少配置即可使用。不过所提供的资料中没有 v0.27.0 的变更记录,因此无法确认本次版本新增或修复了哪些内容。
据 README 所述,ggml 可在包括 x86、ARM、RISC-V 在内的多个平台上使用,并支持 CPU、GPU、NPU 和浏览器。它是一个用于在多种处理器和环境中处理机器学习张量运算的库。它提供 SIMD 优化内核,SIMD 是用一条指令处理多份数据的方式。量化是用更少的比特表示数值的方法,README 中列出了 2~8 位整数量化以及 MXFP4 和 NVFP4 微缩放格式。运行过程中不分配内存这一点,也是 README 所指出的设计特性。仓库信息中记录的实现语言为 C++,许可证为 MIT。
资料中没有可供比较性能的基准测试数值,因此仅凭支持的平台与格式的广度,无法判断实际速度或效率。此外,由于未提供发布变更记录,也无法得知 v0.27.0 与此前版本有何不同。因此,这份资料所展示的是支持范围与设计特性,而性能以及本次发布是否带来改进,仍处于未经确认的状态。