github.devotd.
新发现推理与服务

pytorch/executorch v1.5.1 — 面向 PyTorch 模型的端侧运行时

ExecuTorch 是一个开源技术栈,用于在移动、边缘和嵌入式设备上本地运行 PyTorch 模型。

仓库信息pytorch/executorch ↗

On-device AI across mobile, embedded and edge for PyTorch

星标
★ 5.1K
复刻
1.2K
语言
Python
许可证
NOASSERTION
最新版本
v1.5.1
查看原始来源 ↗在 GitHub 查看 ↗

pytorch/executorch 的最新版本是 v1.5.1。ExecuTorch 是一个开源技术栈,用于在手机、可穿戴设备、笔记本电脑、浏览器、嵌入式系统和微控制器上本地运行 PyTorch 模型。模型通过 torch.export 导出,针对目标硬件进行优化,然后以多种语言的 API 运行。不过,提供的信息中没有列出 v1.5.1 的具体变更项,因此本次发布的内容无法确认。

该技术栈的目的是让 PyTorch 模型在多种类型的设备上运行。提供的说明中提到了面向 CPU、NPU、DSP 和 MCU 的后端。根据 README 摘要,它被用于 Instagram、WhatsApp、Facebook、Messenger,以及 Meta Quest 和 Ray-Ban Meta 设备上的端侧功能。该仓库的主要语言是 Python,star 数为 5105。这些是关于使用场景和支持目标的信息,而不是展示各设备性能的数据。

提供的 FACTS 中没有性能基准测试,也没有与其他运行时的对比资料。因此,无法据此判断它在真实设备上的速度或资源占用。许可证标注为 NOASSERTION,所以使用条件无法仅凭这些信息确定。存在落地应用案例,与 v1.5.1 的变更点或性能已得到确认,这是两件需要区分的事。