モデルメモリ圧縮

読み込み済みのモデル重みまたは状態が占めるメモリを、最小限の品質損失で削減するランタイム手法。オフライン量子化形式の研究と推論ベンチマークスイートは含まない。