github.devotd.

ハードウェア適合・選択ツール

特定のハードウェアについてメモリ、速度、互換性、実行可能なモデルサイズを見積もるツール。モデルを実行するエンジンと品質だけを比較するリーダーボードは含まない。

この分野のプロジェクト (1)
プロジェクト用途スター言語ライセンス最新リリース
alexsjones/llmfitLLMFitはCPU、メモリ、GPU、VRAM、アクセラレータを確認し、適合する量子化モデルを絞り込むローカル選定ツールです。★ 38.1KRustMITv1.1.17