Devotd Github
リリース推論・サービング

mostlygeek/llama-swap v269 — キャプチャ保持、埋め込み、メトリクス追加

mostlygeek/llama-swap v269 は、キャプチャのディスク保存、埋め込みモデル対応、メトリクスの PNG エクスポート、モデル種別ごとの並び替えを追加した。

リポジトリ情報mostlygeek/llama-swap ↗

mostlygeek/llama-swap v269 は、キャプチャのディスク保存、埋め込みモデル対応、メトリクスの PNG エクスポート、モデル種別ごとの並び替えを追加した。

GitHub の説明: Reliable model swapping for any local OpenAI/Anthropic compatible server - llama.cpp, vllm, etc

スター
★ 6.1K
フォーク
533
言語
Go
ライセンス
MIT
最新リリース
v269
原文を見る ↗GitHub で見る ↗

mostlygeek/llama-swap は、ローカルの OpenAI・Anthropic 互換サーバー上でモデルを切り替えるツールである。2026 年 11 月 1 日に公開されたリリース v269 では、キャプチャをディスクに保存して再起動後も維持する機能が追加された。埋め込みモデルの対応、メトリクスの PNG エクスポート、モデルを種別ごとに並び替えて表示する機能も含まれた。変更の出典は GitHub の v269 リリース記録である。

このプロジェクトが扱う範囲は、llama.cpp や vllm を含むローカルの OpenAI・Anthropic 互換サーバーでのモデル切り替えである。v269 で確認できる変化は、キャプチャの保存方式、対応対象のモデル、メトリクスを書き出す形式、モデルを表示するときの並び替え基準にまたがる。したがってこのリリースは、新しい切り替えツールを紹介するものというより、既存ツールにこの 4 つの機能を加えた更新と見るのが適切である。キャプチャはディスクに保存され、再起動後も維持される。メトリクスは PNG で書き出せます。埋め込みモデルの対応とモデル種別ごとの並び替えもリリース概要に明記されている。

提供された資料は、それぞれの機能がどの設定や手順で動くかを説明していない。対応する埋め込みモデルの範囲、メトリクスに含まれる項目、キャプチャの保存場所と保持条件も示されていない。性能の数値や以前のバージョンとの比較結果も確認できない。そのため v269 の変更は機能の追加に限定して理解すべきであり、実際の使用での効果や互換範囲まで、この資料だけで判断することは難しい。