ishekkhal/bitrun

ishekkhal/bitrun が v0.2.0-beta をリリースし、1ビット・1.58ビット三進モデル向けのターミナルダッシュボード Cockpit とリアルタイムの処理量・電力表示を追加した。

GitHub の説明: Zero-compile runner and terminal Cockpit for 1-bit / 1.58-bit ternary LLMs on CPU. Real-time wattage telemetry, 70+ t/s on laptops, and 8B model support (macOS, Windows, Linux)

スター

★ 6

フォーク

2

言語

Go

ライセンス

MIT

最新リリース

v0.2.0-beta