Devotd Github
新发现大语言模型基础设施

modelship-ai/modelship — 转写响应中保留音频时长的小数部分

关于 modelship-ai/modelship 的一项提交说明:修复了 whispercpp 转写响应中音频时长被截断为整秒的问题,现在保留小数部分。

仓库信息modelship-ai/modelship ↗

关于 modelship-ai/modelship 的一项提交说明:修复了 whispercpp 转写响应中音频时长被截断为整秒的问题,现在保留小数部分。

GitHub 项目说明: Self-hosted, OpenAI-compatible inference for the agentic era: reasoning LLMs, universal tool calling, and the Responses API alongside embeddings, speech, and image models — many models sharing your GPUs, one gateway. Powered by Ray Serve.

星标
★ 53
复刻
4
语言
Python
许可证
Apache-2.0
最新版本
v0.8.1
查看原始来源 ↗在 GitHub 查看 ↗

modelship-ai/modelship 是一个基于 Ray Serve 的自托管 OpenAI 兼容网关,可在多块 GPU 上同时提供推理模型。2026 年 11 月 6 日的提交 10e440c(合并 PR #297)修复了 whispercpp 路径的语音转写响应中音频时长(duration)被截断为整秒的问题,改为原样保留小数部分。

修改点共有三处。modelship/utils/audio.py 中的 decode_audio 不再将采样数除以采样率的结果转换为 int,而是返回 float;modelship/openai/protocol/audio.py 中 TranscriptionUsageAudio.seconds 字段的类型由 int 改为 float;modelship/infer/whispercpp/whispercpp_infer.py 则将该值原样填入 usage.seconds。该提交共涉及 4 个文件,规模为新增 29 行、删除 5 行。新增的测试会生成一段 3.6 秒的静音 WAV,并确认响应中的 duration 和 usage.seconds 均为 3.6。如果整型转换仍然存在,usage 中记录的值就会是 3 秒。

不过,已确认的改动仅限于四个文件:whispercpp 推理路径、音频工具、OpenAI 协议类型以及测试。提交信息中没有版本标注或发布说明,验证也仅使用桩模型与合成的静音输入完成,因此并不包含实际识别结果的准确度是否受影响、以及其他处理路径是否会受到影响。对于使用 OpenAI 兼容 API 并通过 usage 汇总音频长度的使用者而言,可以明确的是,这个补丁并非无关紧要的类型修改,而是会直接改变汇总数值本身的改动。