github.devotd.
日本語
English한국어简体中文日本語
推論・サービング

zw5/ane-fieldfare

Apple Neural Engineで入力を処理し、GPUで推測デコーディングを行うローカル推論エンジン zw5/ane-fieldfare を紹介する。

GitHub の説明: Run Gemma 4 26B-A4B, fast.

GitHub で見る ↗
スター
★ 1
フォーク
2
言語
Swift
ライセンス
Apache-2.0

投稿

1