Devotd Github
新着推論・サービング

intel-arc-pro-b70-inference-cookbook v1.11.0 — SC5 ロッシー表記

Intel Arc Pro B70 向け LLM 推論クックブックが 2026 年 11 月 5 日に 1.11.0 を公開し、量子化カタログの SC5 項目にロッシー表記を付け、README に parity 列の説明を追加した。

リポジトリ情報sergiiob/intel-arc-pro-b70-inference-cookbook ↗

Intel Arc Pro B70 向け LLM 推論クックブックが 2026 年 11 月 5 日に 1.11.0 を公開し、量子化カタログの SC5 項目にロッシー表記を付け、README に parity 列の説明を追加した。

GitHub の説明: Open recipes, engine patches, and benchmark harnesses for LLM inference on Intel Arc Pro B60/B70 (Battlemage, Xe2). MoE 35B at 160 t/s decode / 7.5K t/s prefill single-stream, 27B at 50~ t/s decode / 1.7K t/s prefill single stream. vLLM XPU MTP unlocked. Muse Glimmer recipe added!!

スター
★ 179
フォーク
11
言語
Python
ライセンス
MIT
最新リリース
v1.7.0
原文を見る ↗GitHub で見る ↗

sergiiob/intel-arc-pro-b70-inference-cookbook がバージョン 1.11.0 を 2026 年 11 月 5 日にリリースした。Intel Arc Pro B60/B70(Xe2, Battlemage)向けの LLM 推論レシピ、エンジンパッチ、ベンチマークハーネスを集めたリポジトリであり、このリリースでの変更は 2 点だけである。量子化カタログの SC5 項目にロッシー(lossy)表記を付けたこと、および README に parity 列の説明を追加したことだ。

このリポジトリが埋めている穴は、公開されている設定だけでは再現できない部分をレシピとパッチで埋めることにある。README は MoE 35B について単一ストリーム基準のデコード 160 t/s、プリフィル 7.5K t/s を示しているが、これはリポジトリ自身が開示した数字であって独立した試験結果ではない。カタログは各レシピが何をどれほど速く動かすかだけでなく、出力が基準とどれだけ違うかも併せて記載している。parity 列がその比較の場所で、SC5 は 1 ビット当たりの重み(bpw) 5.00 を指す表記である。1.11.0 はこの列の意味を README に説明し、SC5 行 241/329 にロッシー表記を残した。同じ日に公開された 1.10.0 の記録には、Qwen3.8-27B SC5 の KL 値が通常の 4.00bpw の 0.418 倍および 0.161 倍として記載されている。

ただし 1.11.0 自体に新しく測定された性能数値はない。マニフェストのバージョンが 1.10.0 から 1.11.0 に変わっただけの自動化されたリリースコミットであり(リリース PR #70)、実質的な内容は issue #69 で入ってきたカタログと README の修正だ。241/329 がどの基準で数えられたのか、parity 列は何と何を比較するのかがコミット説明にないため、表記だけから損失の大きさを測るのは難しい。ロッシー表記が付いた項目がそれだけ多いという事実は、Arc Pro B70 に 35B や 27B 級のモデルibせる計画があるなら該当行の parity 値を先に確認すべき理由を作るだけで、性能改善を示しているわけではない。目立つ機能追加というよりは、選択肢を絞り込む表記整理と読むのが恰当である。