Devotd Github
새 소식LLM 인프라

modelship-ai/modelship — 전사 응답의 오디오 길이 소수점 유지

modelship-ai/modelship의 whispercpp 전사 응답에서 오디오 길이가 정수 초로 잘리던 문제를 고쳐 소수점 이하를 보존한 커밋 소식.

저장소 정보modelship-ai/modelship ↗

modelship-ai/modelship의 whispercpp 전사 응답에서 오디오 길이가 정수 초로 잘리던 문제를 고쳐 소수점 이하를 보존한 커밋 소식.

GitHub 설명: Self-hosted, OpenAI-compatible inference for the agentic era: reasoning LLMs, universal tool calling, and the Responses API alongside embeddings, speech, and image models — many models sharing your GPUs, one gateway. Powered by Ray Serve.

스타
★ 53
포크
4
언어
Python
라이선스
Apache-2.0
최신 릴리스
v0.8.1
원문 보기 ↗GitHub에서 보기 ↗

modelship-ai/modelship은 Ray Serve를 기반으로 여러 GPU에서 추론 모델을 함께 제공하는 자기 호스팅 OpenAI 호환 게이트웨이다. 2026년 11월 6일 커밋 10e440c(PR #297 병합)는 whispercpp 경로의 음성 전사 응답에서 오디오 길이(duration)가 정수 초로 잘리던 문제를 고쳐 소수점 이하를 그대로 보존하도록 바꿨다.

수정 지점은 세 군데다. modelship/utils/audio.py의 decode_audio가 샘플 수를 표본율로 나눈 값을 int로 버리지 않고 float로 돌려주고, modelship/openai/protocol/audio.py의 TranscriptionUsageAudio.seconds 필드 타입이 int에서 float로 바뀌었으며, modelship/infer/whispercpp/whispercpp_infer.py는 usage.seconds에 그 값을 그대로 넣는다. 커밋은 총 4개 파일을 29줄 추가와 5줄 삭제 규모로 건드린다. 새로 들어간 테스트는 3.6초 길이의 무음 WAV를 만들어 응답의 duration과 usage.seconds가 3.6인지 확인한다. 정수 캐스팅이 남아 있었다면 usage에는 3초로 기록됐을 값이다.

다만 확인된 변경은 whispercpp 추론 경로, 오디오 유틸리티, OpenAI 프로토콜 타입, 테스트 네 파일로 한정된다. 커밋 메시지에는 버전 표기나 릴리스 안내가 없고, 검증은 스텁 모델과 합성된 무음 입력으로만 이뤄져 실제 인식 결과의 정확도나 다른 처리 경로까지 영향을 주는지는 담겨 있지 않다. OpenAI 호환 API를 쓰면서 usage로 오디오 길이를 집계하는 쪽이라면 이 패치는 사소한 타입 변경이 아니라 집계 값 자체를 바꾸는 변경이라는 점은 분명하다.