blockwayz/agens-engine は Agens Volundr モデルをコンシューマー向けグラフィックスカード1枚で実行し、OpenAI互換のチャットAPIとして提供するC++推論エンジンである。リポジトリは2026年10月17日に作成され、公開リリースはない。現在確認できるのはリポジトリの説明と、READMEに記載された機能および実行プロファイルまでだ。
このエンジンが狙うのは、GPUメモリバジェットの中で重みと長いコンテキストキャッシュを併せて計画することである。各線形層の重みを2ビット、3ビット、4ビットで保持する層ごとの混合精度を使い、生成されたトークンのキーと値を格納するKVキャッシュはホストメモリへ退避する。補助ドラフトモデルとMTPヘッドを使う推測デコード（先にドラフトトークンを引き出し一度に検証する方式）、複数枚のグラフィックスカードにモデルを分割する実行、画像入力にも対応する。APIはOpenAI互換である。16GBプロファイルは最大262Kトークンのコンテキストを要求するが、実際の収容量はGPUメモリとKVプールによって異なり、メモリバジェットを超えた場合は実行を中断する設計になっている。READMEにはグラフィックスカードメモリ別の実行プロファイルと制限事項が併せて記載されている。
ただしサーバー、CUDAカーネル、整合性試験は確認できるものの、公開の性能主張は再現資料を別途確認する必要がある。ライセンスはNOASSERTIONと表示されており、利用条件が明確ではない。スターは7件、10点満点基準で新しさ8.0、技術8.0、品質7.0、モメンタム1.8である。設計は具体的だが性能の根拠は薄い。モメンタム点数が低く、リポジトリも新しく作られた状態なので、Agens VolundrをコンシューマーGPUで直接実行したい人には、今のところ確認する価値のあるプロジェクトに近い。