alexshpunt/pi-agent-computer-use 是一个为 Pi 编码智能体接入计算机使用能力的项目。最新版本是 v0.1.3。它读取原生 UI 树和截图,并发送真实输入来操作 Windows 应用和浏览器。不过,所提供的信息中没有关于 v0.1.3 具体变更内容的详细记录。
该项目的核心是一套「读取画面、发送输入、再确认结果画面」的工具流程。它利用以结构化形式表达界面元素的原生 UI 树和辅助功能信息来定位窗口与目标对象,并通过点击元素或坐标进行输入。随后重新读取新的画面,以确认操作结果。仓库中包含在 GIMP 中临摹绘制的演示、多个模型的运行记录、任务指令以及用于复现的配置资料。项目使用 TypeScript 编写,采用 MIT 许可证,其实现基于 Cua Driver 移植版的 Windows 功能。
资料所展示的范围仅限于把画面信息与输入连接起来的实现,以及 GIMP 演示和模型记录。仅凭这一案例和这些记录,无法判断其在多个应用中的稳定性或性能。因此,与其说这是一个证明了成熟自动化工具性能的项目,不如说它更接近一份可供参照的实现,用来考察如何把 GUI 操作接入 Pi 编码智能体。