iivek/ledgerlens 是一个离线移动项目,用于从收据照片中提取逐项结构化数据。仓库中给出了基于 Python 的模型工作、React Native 应用、llama.cpp 运行路径,以及评估与重新评分脚本。README 介绍的是一套将基于 Qwen2-VL-2B 的模型以适合设备端处理的方式加以利用的配置。
该项目在评估流程中纳入了三种手段:把大模型的行为迁移到小模型的蒸馏(distillation)、减小模型体积的量化(quantization),以及移除部分连接的剪枝(pruning)。它以同时处理图像与文本的模型(VLM)为对象,比较压缩带来的体积与准确率变化,并提供 SROIE 与 CORD 的测量结果以及用于重新评估这些结果的工具。这样的配置是在收据提取场景中同时考察模型压缩与设备端运行的一次尝试。
不过,公开的 SROIE 与 CORD 测量结果只是来自某一台特定 Mac 的单次运行。README 也说明,量化对比不应被视为确定结论,仍需要重复测量。手机上的实际运行与更多压缩评估仍在进行中。因此,当前结果更接近一个有待通过重复测量和真实手机运行来验证的评估阶段,而不是对压缩方式优劣的定论。