ericlbuehler/mistral.rs は高速で柔軟な LLM 推論を掲げるプロジェクトだ。v0.9.5 リリースは、ツール呼び出しと推論を示す区切り文字の適用条件を修正した。区切り文字は特殊トークンとして出力された場合にのみ適用される。今回の変更は区切り文字の処理範囲を特殊トークン出力に限定したものだ。リポジトリで公開されている今回のリリースの変更内容には、Qwen3.8-Flash-Next モデルのサポート追加と CUDA 13.4 のサポート追加も含まれている。
3 つの変更は、推論の過程で扱う出力と実行基盤のサポート範囲にまたがる。区切り文字の条件修正は、ツール呼び出しと推論の区切り文字をいつ適用するかに関する変更である。Qwen3.8-Flash-Next のサポート追加はそのモデルを対象に加えたもの、CUDA 13.4 のサポート追加はその CUDA バージョンを対象に加えたものだ。したがって v0.9.5 の要点は区切り文字の適用条件の調整と、2 つのサポート追加である。提供された情報には、それぞれの詳細な実装や利用手順は含まれていない。
リリース情報には修正前後の動作例や性能比較は示されていない。そのため、区切り文字の条件変更が実際の応答にどのような差を生むのか、新しいモデルと CUDA のサポートがどの環境まで適用されるのかYTA councilsHereYr : is not judgmentable from this information alone.
x