Devotd Github
新发现推理与服务

drumih/turbo-fieldfare 0.9.4 — 代码块复制与聊天模板修正

turbo-fieldfare 的 0.9.4 提交上调了应用版本常量,其中包含对话窗代码块复制功能、系统消息处理规则变更,以及渐进渲染的缺陷修复。

仓库信息drumih/turbo-fieldfare ↗

turbo-fieldfare 的 0.9.4 提交上调了应用版本常量,其中包含对话窗代码块复制功能、系统消息处理规则变更,以及渐进渲染的缺陷修复。

GitHub 项目说明: Gemma 4 26B-A4B inference in ~2 GB of RAM on any M-series MacBook

星标
★ 6.9K
复刻
452
语言
Swift
许可证
Apache-2.0
最新版本
0.9.3
查看原始来源 ↗在 GitHub 查看 ↗

drumih/turbo-fieldfare 的最新提交 d994a65 是 2026-10-26 合并的 PR #195,包含面向 0.9.4 的代码块复制功能与聊天修正。改动涉及 23 个文件、1169 行(+1103 / -66),应用显示的版本常量也从 0.9.3 提升到 0.9.4。新建的文件为 TranscriptCodeBlock.swift 以及两个与复制相关的测试。

仓库说明称,它在 M 系列 MacBook 上以约 2GB 的内存运行 Gemma 4 26B-A4B 推理。本次提交的核心是一项功能,可用单个按钮把对话窗中绘制的代码块复制到剪贴板。新增了 transcript.copyCode. 前缀作为无障碍标识符,而新加入的 TranscriptCodeCopyTests.swift 就有 423 行。当流式响应被重新绘制时复用代码块的标识符、使焦点保留在按钮上的那一部分,正对应于此。

聊天侧的修正出在分词器的 chat template 规则上。系统消息必须为首条消息这一条件被改为“必须位于对话开始之前”,从而允许在前面放置多个系统消息。除此之外,其余大部分是渐进渲染的修正。它处理了 CR 与 LF 分别到达而导致整个代码围栏被重新生成的问题,以及列表和引用被再次解析时代码块丢失身份的问题。服务端的提示词缓存与日志代码也一并修改,OpenAI 兼容服务器文档增加了 8 行。

不过本次提交没有性能数值或基准测试,也没有同时给出 0.9.4 的发布说明或许可证类型。在没有部署后用户确认的情况下,很难判断复制与聊天修正消除了多少症状。就内存占用或推理速度方面的变化而言,仅凭这份材料无法得知。