ishekkhal/bitrun

ishekkhal/bitrun이 v0.2.0-beta를 내면서 1비트·1.58비트 삼진 모델용 터미널 대시보드 Cockpit과 실시간 처리량·전력 표시를 추가했다.

GitHub 설명: Zero-compile runner and terminal Cockpit for 1-bit / 1.58-bit ternary LLMs on CPU. Real-time wattage telemetry, 70+ t/s on laptops, and 8B model support (macOS, Windows, Linux)

스타

★ 6

포크

2

언어

Go

라이선스

MIT

최신 릴리스

v0.2.0-beta