プロジェクト

flashml-org/freetoken

FreeToken brings datacenter-scale model serving to your desktop. Run massive models locally, fast and efficiently.

投稿

新着OCT 16

flashml-org/freetoken がエッジハードウェアで大規模な MoE モデルをサービングするために提供する機能と、そのパフォーマンス情報の限界を紹介する。