Devotd Github
新着推論・サービング

apache/tvm — TensorIR・Relax ベースの機械学習コンパイラ

Apache TVM の TensorIR と Relax の設計、および v0.27.0.post1 で確認できる範囲を説明する。

リポジトリ情報apache/tvm ↗

Apache TVM の TensorIR と Relax の設計、および v0.27.0.post1 で確認できる範囲を説明する。

GitHub の説明: Open Machine Learning Compiler Framework

スター
★ 13.9K
フォーク
4K
言語
Python
ライセンス
Apache-2.0
最新リリース
v0.27.0.post1
原文を見る ↗GitHub で見る ↗

apache/tvm は Python 優先の開発を目指すオープンな機械学習コンパイラフレームワークである。リポジトリに記載されている最新リリースは v0.27.0.post1 だが、提供された事実にはこのバージョンで何が変わったかの情報は含まれない。したがって本稿はリリースの変更点ではなく、リポジトリが説明している設計を扱う。

Apache TVM は、機械学習コンパイラのパイプラインを Python で素早くユーザー化し、モデルを最小のデプロイモジュールまで届ける汎用デPLOYを目標とする。TensorIR はテンソルレベルの表現、Relax はグラフレベルの表現である。その構想は、この二つの表現を土台に計算グラフとテンソルプログラム、ライブラリを併せて最適化することにある。ドメイン固有の Python 優先な垂直コンパイラのための基盤インフラという点から、特定のモデル単体のランナーよりも、コンパイル過程を構成するツールに近い。リポジトリに記載された主要言語は Python、ライセンスは Apache-2.0 である。

ただし提供された記録には v0.27.0.post1 のリリース変更内容も性能ベンチマークもなく、今回のバージョンの改善点や実際の性能は判断できない。モメンタム(momentum)スコアは 10 点満点で 2.4 と記録されているが、算出の基準は示されていない。したがって確認できるのは TVM が掲げるコンパイル構造と目標までであり、具体的な更新効果はリリース記録や測定資料があって初めて評価できる。