nace-ai/kapitsa の最新リリースは v0.1.36 である。このリポジトリは、Apple silicon 上で Qwen 系および Nemotron 系モデルを実行するための C++ 推論エンジンだ。ただし、提供された情報には v0.1.36 での変更点が示されていないため、このリリースの具体的な変更内容は確認できない。
プロジェクトは、モデルローディングと演算カーネル、サーバーを統合し、Metal 演算カーネルとモデルごとの実装を提供すると説明している。投機的デコーディング（speculative decoding）も統合の対象である。これは、小さなモデルがまずトークンの候補を生成し、大きなモデルがそれを検証して生成過程を助ける方式である。README によれば、OpenAI および Anthropic API 互換のインターフェースとチャット画面も提供する。既存のアプリケーションと接続できる互換サーバーを備えた Apple silicon 向け実行環境であることが特徴である。リポジトリにはドキュメントとテストファイル、計測ツールも含まれている。
性能表は作者自身の測定結果であり、今回の分析では独立に再現していない。したがって、公開されている数値だけでは、他の実行環境やモデルとの速度差を確定することは難しい。v0.1.36 の変更履歴も示されていないため、性能や機能が改善したかどうかを判断できる材料は限定的である。確認できる構成と API 互換性はプロジェクトの範囲を示すが、性能に関する主張は別途検証が必要な状態である。