kekzl/imp は 2026 年 10 月 31 日に v0.60.0 を公開した。このプロジェクトは、NVIDIA RTX 50 または RTX PRO 搭載のグラフィックスカード上で大規模な AI チャットモデルをローカル実行するためのツールだ。今回のバージョンでは、一部のモデルの長いプロンプト処理に独自の数学カーネルを適用している。リリース試験では Gemma-4 の長いプロンプト処理で 6.0%、Qwen3-Coder の短いプロンプト処理で 5.4% の改善を報告した。埋め込みと NVFP4 のメモリ配置、API の変更も含まれ、デフォルト設定の互換性変更はないと説明した。
プロジェクトの説明によると、RTX 5090 1 枚で Qwen3.8-27B は毎秒約 70 単語を生成し、vLLM より 1.4 倍速いという。グラフィックスカードのメモリのおよそ 4 倍大きいモデルも実行できるとも説明している。ChatGPT や Claude 向けのアプリと併用でき、Docker コマンド 1 つで開始する方式だ。したがってこのリリースは、ローカルモデル実行環境でプロンプト処理・メモリ配置・API をまとめて手を加えたアップデートとなる。
ただし、独自の数学カーネルは一部のモデルにのみ適用され、報告された改善数値は特定のプロンプト種類についてのリリース試験の結果である。提供されたリリース概要には測定条件や比較基準が記されていない。API 変更の細部も概要には現れない。デフォルト設定の互換性変更がないという説明を踏まえ、改善の効果は適用されるモデルとプロンプトの範囲内で判断するのが妥当だ。