zylon-ai/private-gpt 是面向运行在本地模型之上的 AI 应用的 API 层。它用 Python 编写,最新版本是 v1.0.1。该项目本身不直接运行模型,而是连接到 OpenAI 兼容的推理服务器,通过 API 提供消息处理、文件采集等功能。API 结构遵循 Claude API。
PrivateGPT 收集并检索文件与制品,提供带引用(citation)的搜索和代理式 RAG(agentic RAG)。代理式 RAG 指的是模型自行组合检索与工具调用来生成答案的方式。它还支持工具、MCP 连接器,以及数据库和 CSV 访问。仓库说明称此外还包含 skills 和 text-to-sql。内建的 Workbench UI 用于测试和演示,核心产品是 API。它于 2023 年 5 月 2 日创建,采用 Apache-2.0 许可证,GitHub star 数为 57,598。
不过,能够确认的只有功能范围和仓库指标。所给记录中没有 v1.0.1 的变更记录,因此无法得知这次发布改动了什么。也没有给出性能数值和基准测试。按 10 分制评估,只有 momentum 项为 2.7,freshness、技术和质量各项均为空。因此 API 构成与支持范围可以确认,但仅凭这份记录难以对实际性能或质量作出有依据的判断。