ishekkhal/bitrun

ishekkhal/bitrun 发布 v0.2.0-beta，为 1 位、1.58 位三进制模型新增了终端仪表盘 Cockpit 以及实时处理量和功耗显示。

GitHub 项目说明: Zero-compile runner and terminal Cockpit for 1-bit / 1.58-bit ternary LLMs on CPU. Real-time wattage telemetry, 70+ t/s on laptops, and 8B model support (macOS, Windows, Linux)

星标

★ 6

复刻

2

语言

Go

许可证

MIT

最新版本

v0.2.0-beta