github.devotd.

하드웨어 적합·선택 도구

특정 하드웨어의 메모리, 속도, 호환성 또는 실행 가능한 모델 크기를 추정하는 도구. 모델을 실행하는 엔진과 품질만 비교하는 리더보드는 제외.

이 분야의 프로젝트 (1)
프로젝트하는 일스타언어라이선스최근 릴리스
alexsjones/llmfitLLMFit은 CPU, 메모리, GPU, VRAM, 가속기 구성에 맞는 양자화 모델을 찾아 추천하는 로컬 하드웨어 도구입니다.★ 38.1KRustMITv1.1.17