Devotd Github
新着推論・サービング

ishekkhal/bitrun v0.2.0-beta — 1ビットモデル向けターミナル Cockpit を追加

ishekkhal/bitrun が v0.2.0-beta をリリースし、1ビット・1.58ビット三進モデル向けのターミナルダッシュボード Cockpit とリアルタイムの処理量・電力表示を追加した。

リポジトリ情報ishekkhal/bitrun ↗

ishekkhal/bitrun が v0.2.0-beta をリリースし、1ビット・1.58ビット三進モデル向けのターミナルダッシュボード Cockpit とリアルタイムの処理量・電力表示を追加した。

GitHub の説明: Zero-compile runner and terminal Cockpit for 1-bit / 1.58-bit ternary LLMs on CPU. Real-time wattage telemetry, 70+ t/s on laptops, and 8B model support (macOS, Windows, Linux)

スター
★ 6
フォーク
2
言語
Go
ライセンス
MIT
最新リリース
v0.2.0-beta
原文を見る ↗GitHub で見る ↗

ishekkhal/bitrun が v0.2.0-beta を公開した。2026年10月15日の GitHub コミット 0af499c に含まれる今回のリリースは、その主要点として、1ビット・1.58ビット三進重み(値が -1、0、1 の3種類しかない重み)モデルを CPU で動かすランナーにフルスクリーンのターミナルダッシュボード Cockpit を組み込んだことにある。変更は21ファイル、2,760行の追加と156行の削除という規模だ。

Cockpit は Go と Bubble Tea で構築されたターミナル UI だ。左ペインには複数ターンの会話履歴が残り、右ペインには生成速度、プロンプト処理速度、最初トークンまでの時間(TTFT)、コンテキスト使用量、P・E コア別の使用率、SIMD エンジン名、パッケージ電力、トークンあたりのエネルギー、セッション累計エネルギー、電源接続状態がリアルタイムで表示される。推論と電力計測の画面がひとつにまとめられている点がこのツールの中心である。

コミットメッセージが指す「モダン 1ビットエンジン」は、1,158行のパッチファイル patches/0004-bitrun-modern-engine-b1395.patch として収録され、ビルド時に適用される形式である。macOS ビルドスクリプトは新規追加され、Linux と Windows のビルド・パッケージング・インストールスクリプトも手を入れられた。README のバッジによればライセンスは MIT であり、.gitignore で除外されていた項目(docs/ と個人セッション記録 progress.md、memory.md)が削除された。

根拠は限定的である。README に載っている Cockpit 画面は bonsai-1.7b を基準に生成速度 73.7 tok/s、パッケージ電力 11.7 W、トークンあたりエネルギー 0.1587 J を示す UI 例示であり、今回のコミットでは Apple Silicon・Windows・Linux 向けの既存のベンチマーク表は削除された。リポジトリの説明にある 70+ t/s と 8B モデル対応も、この変更だけでは測定条件を確認できない。v0.2.0-beta はローカル CPU 推論を目で確かめたい人には試す価値のあるツールだが、性能で判断するなら欠落したベンチマークを別途補う必要がある。