yamz-labs/kyojin

yamz-labs/kyojin 1.8.5가 순환 캐시 앵커 정책으로 세션 복귀를 개선하고 Strix Halo iGPU 디코딩 커널을 손봤다.

GitHub 설명: Kyojin: the Yamz inference engine for AMD Strix Halo (ROCm, gfx1151), built on ExLlamaV3. Runs 300B-class MoE models on one 128 GB mini PC.

스타

★ 174

포크

23

언어

Python

라이선스

MIT

최신 릴리스

v1.5.8