masherdon/siege-ladder は、グラフィックスカードメモリ 16 GB とシステムメモリ 64 GB を備えた 1 台の PC で DeepSeek-V4.1-Flash-1017 を実行しようとする研究リポジトリです。最新の公開リリースはありません。リポジトリは完成されたエンジンではなく進行中の作業であると明記し、llama.cpp パッチ、重みの組み合わせスクリプト、計測ツール、メモを提供しています。したがって新しいバージョンのリリースというよりは、リポジトリで公開されている実行方法と研究資料を確認する内容となります。
核心は、モデルのエキスパート重みを NVMe からストリーミングして、メモリ使用を分担する方式です。エキスパートとは、入力に応じてモデルが選択して使用するパラメータのまとまりです。README は、グラフィックスカードメモリ、固定されたシステムメモリ、NVMe をラダー状に活用し、ルーティングを予測してエキスパートを選択的に省略すると説明しています。主な言語は Python、ライセンスは MIT-0 です。これは一般的な推論エンジンの紹介というよりは、制限されたメモリで大規模モデルを実行するための具体的な実装記録に近いものです。
README に記録された性能例は、2026 年 11 月 4 日時点の 1M ドキュメント実験です。その記録には 946,058 トークンの処理、処理速度 365.78 tok/s、回答生成速度 14.38 tok/s と記されています。これは単一回の実行結果であり、他の性能表とは条件が異なります。README は再現性に限りがあり、一部コンポーネントは未公開であると明記しています。したがって、この数値は比較可能な性能評価というよりは、進行中の研究のための参考記録とみなすのが妥当です。