github.devotd.
新着推論・サービング

pytorch/executorch v1.5.1 — PyTorch モデル向けオンデバイスランタイム

ExecuTorch は、モバイル・エッジ・組み込みデバイスで PyTorch モデルをローカル実行するためのオープンソーススタックである。

リポジトリ情報pytorch/executorch ↗

On-device AI across mobile, embedded and edge for PyTorch

スター
★ 5.1K
フォーク
1.2K
言語
Python
ライセンス
NOASSERTION
最新リリース
v1.5.1
原文を見る ↗GitHub で見る ↗

pytorch/executorch の最新リリースは v1.5.1 である。ExecuTorch は、携帯電話、ウェアラブルデバイス、ラップトップ、ブラウザ、組み込みシステム、マイクロコントローラで PyTorch モデルをローカル実行するためのオープンソーススタックである。モデルを torch.export でエクスポートし、対象ハードウェアに合わせて最適化したうえで、複数言語の API によって実行する。ただし、提供された情報には v1.5.1 で変更された具体的な項目が示されておらず、今回のリリースの変更内容は確認できない。

このスタックの目的は、PyTorch モデルをさまざまな種類のデバイスで実行することである。提供された説明には CPU・NPU・DSP および MCU 向けのバックエンドが言及されている。README の要約によれば、Instagram、WhatsApp、Facebook、Messenger、および Meta Quest と Ray-Ban Meta 機器のオンデバイス機能_affordanceに利用されている。リポジトリの主言語は Python で、スター数は 5105 である。これはユースケースと対応対象に関する情報であり、デバイスごとの性能を示す数値ではない。

提供された FACTS に性能ベンチマーク|Other ランタイムとの比較資料はない。そのため、実際の端末でどの程度の速度やリソース消費を示すかは、ここからは判断できない。ライセンス表記は NOASSERTION なので、利用条件はこの情報だけでは確定できない。適用事例が存在することと、v1.5.1 の変更点や性能が確認できたことは区別する必要がある。