ewhacc/tandem.cpp は llama.cpp にパッチを適用し、グラフィックスカードのメモリに収まりきらない混合専門家モデルの推論を支援するプロジェクトである。個別のリリース情報はない。README によれば、頻繁に使う専門家をグラフィックスカードにキャッシュし、残りを CPU と共に計算する方式である。リポジトリの説明では、モデルのスループット改善を目標としている。
README には Qwen3.8-Flash-Next および他の混合専門家モデルのスループット結果が、テスト環境とともに示されている。一台のコンシューマー向け PC で複数のモデルを比較した表や、インストールと実行の手順も確認できる。CUDA ビルド、メモリの余裕が少ない環境での設定、対応している専門家形式、投機的デコード(speculative decoding)の例も扱っている。したがって、モデルの全体がグラフィックスカードのメモリに収まらない状況でも llama.cpp を活用したい人にとって、具体的な実行経路を示すリポジトリである。主な言語は Python と表示されている。
ただし、結果は README に掲載されたテスト環境と併せて読む必要があり、FACTS には個別のリリース情報がない。スター数は 3 で、ライセンス表記は NOASSERTION である。公開情報のみではライセンス条件を確認できないため、現時点ではスループット結果を一般的な性能保証とみなすことも、利用条件が明確なツールとみなすことも難しい。