新着
jundot/omlx v0.7.1rc1 — Apple Silicon 向けローカル推論サーバー
jundot/omlx は Apple Silicon で LLM を実行し、macOS メニューバーアプリから管理するローカル推論サーバーである。
プロジェクト
jundot/omlx
LLM inference server with continuous batching & SSD caching for Apple Silicon — managed from the macOS menu bar
GitHub で見る ↗- スター
- ★ 22.9K
- フォーク
- 2.1K
- 言語
- Python
- ライセンス
- Apache-2.0
- 最新リリース
- v0.7.1rc1
投稿
1該当するニュースはありません。