kindlingai/exlr8

kindlingai/exlr8 は、トークンごとに読み込む expert 重みの量を削減することに重点を置いた DGX Spark 向け量子化フォーマットです。

GitHub の説明: EXLR8: a DGX Spark tuned quantization format

スター

★ 14

フォーク

1

言語

HTML

ライセンス

—