Devotd Github

red-weasel/machx-inference-engine

C++/SYCL ベースの Intel Arc 推論エンジン machx-inference-engine が v0.2.35 で、Flash-Next を複数カードに分割して実行する N 段チェーンを追加し、コミュニティ GGUF の読み取りエラーも修正した。

GitHub の説明: C++/SYCL local LLM inference for Intel Arc: Qwen3.8, DeepSeek-V4.1, MiMo-V2.6, GLM-5.3 and LTX-2.5 text-to-video on Arc Pro B70 cards. XMX kernels, quantized models, multi-GPU.

GitHub で見る ↗
スター
★ 6
フォーク
1
言語
C++
ライセンス
Apache-2.0
最新リリース
v0.2.23

投稿

1