프로젝트

flashml-org/freetoken

FreeToken brings datacenter-scale model serving to your desktop. Run massive models locally, fast and efficiently.

게시물

새 소식OCT 16

flashml-org/freetoken이 대형 MoE 모델을 에지 하드웨어에서 서빙하기 위해 제공하는 기능과 성능 정보의 한계를 소개한다.