nehanth/pooled

pooled はブラウザで P2P LLM 推論を分担するプロジェクトで、モデルを実行していたメンバー端末が離脱またはリロードした際に、残ったワーカーがレイヤーを解放してモデル選択画面に戻るようにするコミット（45b5ee2、PR #427）を取り込んだ。

GitHub の説明: Peer-to-peer LLM inference in the browser: pool your devices to run big open models, for chat and coding agents.

スター

★ 588

フォーク

93

言語

JavaScript

ライセンス

MIT

最新リリース

v2.0.0