l-forster/open-jet v0.5.4 は 2026 年 10 月 30 日に公開されました。ローカルモデル向けのオフラインコーディングエージェントで、1 つのコマンドで GPU 上で実行できるモデルを設定するプロジェクトです。今回のバージョンでは低ビットKVキャッシュとアテンション処理、サーバーインターフェース、インストールおよびベンチマークのドキュメントを補完しました。リリースノートにはグラフィックスメモリの使用量も削減したと記載されており、変更内容の出所は GitHub v0.5.4 リリースです。
このプロジェクトは、ローカルモデルを使ってコーディング作業を行う環境をまとめて構築することを目的としています。リポジトリの説明では、24GB 以上のメモリを備えた RTX 30·40·50 シリーズにおいて、Qwen3.8-27B は llama.cpp に比べて最大 1.9 倍高速に動作すると説明しています。この数値は説明に記載された GPU、モデル、比較対象に限られた主張です。低ビットKVキャッシュは推論の過程で以前のトークン情報を少ないビットで保存する方法であり、今回のリリースでは関連する処理とサーバーインターフェースも扱いました。
リリースはグラフィックスメモリ使用量の削減に触れていますが、その減少幅は示していません。リポジトリ説明の最大 1.9 倍という性能の主張も、特定の GPU・モデル・比較対象に関する内容であり、他の環境の性能へ拡大して読む根拠はありません。したがって今回の更新は、ローカル推論におけるメモリ処理と利用経路を補完する変更と見ることができますが、実際の性能改善の幅度は与えられた情報だけでは判断が困難です。