InferSSD（wici-ai/inferssd）は、llama.cpp を土台に SSD から MoE expert をストリーミングし、RAM や VRAM より大きいモデルを動かす C++ エンジンである。最新リリースは v0.1.1 だ。提供された情報にはこのバージョンで何が変わったのかを説明する変更一覧がなく、特定の機能を新たに追加したとは言えない。このリポジトリが扱う中心は、モデル全体を RAM や VRAM に収めにくい状況下で SSD を推論経路に活かす方式である。プロジェクト説明はこれを、大きなモデルを実行するためのアプローチとして示している。
README は GGUF 形式の大きな混合専門家モデルを対象としており、現在サポート対象として DeepSeek-V4.1-Flash-1017 と Muse-Spark-Open を挙げている。モデルと対話するブラウザインターフェースと OpenAI 互換 API も提供すると説明している。したがって利用方式は、ブラウザで直接対話するか、互換 API 経由で接続する 2 つの経路に整理できる。インストール手順は macOS と NVIDIA GPU を使う Linux を対象にしている。ライセンスは Apache-2.0 で、リポジトリの主言語は C++ である。この範囲で確認できるのは、特定のモデル形式と 2 つの接続方式、そして 2 つの動作環境向けのインストール案内だ。
ただし、提供された記録には性能比較の数値がない。したがって SSD ストリーミングが実際にメモリ上限をどれだけ広げるのか、サポート対象モデルでどの程度の速度が出るのかは、この情報だけでは判断できない。記録された momentum スコアは 5.0 で、技術性・品質・新規性のスコアは提供されていない。よって v0.1.1 の性能や改善幅を断定するのではなく、サポート対象モデルとインストール環境を基準に適用可能性を検討する段階に近い。