ewhacc/tandem.cpp

ewhacc/tandem.cpp는 llama.cpp에 패치를 적용해 그래픽카드 메모리에 다 들어가지 않는 혼합 전문가 모델을 실행하는 프로젝트다.

스타

★ 3

포크

0

언어

Python

라이선스

NOASSERTION