nipegun/moe-gguf-server

GGUF 형식 MoE 모델을 로컬에서 실행하는 nipegun/moe-gguf-server가 저장소 전체를 담은 첫 커밋을 공개하고, PolyForm Noncommercial 1.0.0 라이선스를 함께 추가했다.

GitHub 설명: Like llama.cpp and FreeToken but crafted with nipegunian scalpel precision to achieve the fastest inference speed possible out of MoE models.

스타

★ 0

포크

0

언어

C++

라이선스

NOASSERTION