miaai-lab/glm-5.3-flash-exl3-2x-dgx-sparks-tensorfold は、GLM-5.3-Flash を EXL3 で量子化し、DGX Spark 2台で TensorFold を用いてサービングするためのデプロイレシピである。リポジトリは、この構成のためのモデルデプロイと起動・停止スクリプト、プロンプト再利用およびツール呼び出しの検査用の資料を提供する。公開されているリリースはなく、リポジトリの説明には GLM-5.3-Flash のサービング構成が示されている。
この資料の意義は、モデルそのものよりも、2台のデバイスにまたがる推論サーバの構成を調べられる点にある。README は OpenAI 互換 API、画像・動画入力、ツール呼び出し、長文脈の処理、複数リクエストの同時処理について説明している。構成には EXL3 の重みと FP8 KV キャッシュが含まれる。KV キャッシュは以前のトークンの計算結果を保持する領域である。ドラフト生成経路と 2台間の通信も構成要素として紹介されている。Python リポジトリであり、ライセンスは Apache-2.0 である。
README の性能表は同時リクエスト数 따른スループットと最初のトークンまでの遅延を示しているが、これは文書に記載された特定の機器と構成での結果である。当該測定は独立に再現・確認されていないため、一般的な性能比較として受け入れにくい。したがってこのリポジトリは、DGX Spark 2台を使うサービングレシピの参考資料に近い位置づけであり、他の環境でも同じ結果が出るとみなす根拠はない。