srkrz23/vramkit 是一个 Python 仓库，在 LLM 推理中分别压缩权重和 KV 缓存以降低内存占用。FACTS 未给出单独的发布版本。README 说明支持 ROCm、CUDA、MPS 和 CPU。它面向在采用统一内存的笔记本上运行更大模型的思路，但其实际适用范围仍应以所给出的测量结果和实现为限来判断。
权重编解码器使用 32 位范围编码器和二维自适应上下文模型。据 README，Qwen2.5-0.5B 的 self_attn.o_proj(int4) 无损地达到每个权重 2.676 比特。这比原始 4 比特低 33.1%，也低于 zstd-19 的 2.717 比特。全部张量的平均值为 2.92 比特，文中称相比 4 比特减少 27%。KV 缓存按键逐通道、值逐 token 进行量化。README 报告在参考 perplexity 约 18 的条件下，相对 int8 实现 2 倍压缩、0.1% 损失。相同内存条件下的逐 token 方案损失为 4.6%，int4 键的损失为 25.6%。
这些数字全部是作者在 Apple Silicon 笔记本上的测量结果，FACTS 中没有给出独立验证。作者说明此前版本曾用余弦相似度评估质量，这一错误已自行更正。仓库中没有测试目录，也没有持续集成配置。因此，这些基准数字更适合视为需要复现和进一步验证的作者自报结果。