github.devotd.
新发现检索增强与搜索

zylon-ai/private-gpt v1.0.1 — 面向本地模型的 AI 应用 API 层

zylon-ai/private-gpt 是运行在本地模型之上的 AI 应用 API 层,通过 API 提供文件采集、引用和代理式 RAG。

仓库信息zylon-ai/private-gpt ↗

zylon-ai/private-gpt 是运行在本地模型之上的 AI 应用 API 层,通过 API 提供文件采集、引用和代理式 RAG。

GitHub 项目说明: Complete API layer for private AI applications on local models: RAG, skills, tools, MCP, text-to-sql, and more. Works with any OpenAI-compatible inference server.

星标
★ 57.6K
复刻
7.6K
语言
Python
许可证
Apache-2.0
最新版本
v1.0.1
查看原始来源 ↗在 GitHub 查看 ↗

zylon-ai/private-gpt 是面向运行在本地模型之上的 AI 应用的 API 层。它用 Python 编写,最新版本是 v1.0.1。该项目本身不直接运行模型,而是连接到 OpenAI 兼容的推理服务器,通过 API 提供消息处理、文件采集等功能。API 结构遵循 Claude API。

PrivateGPT 收集并检索文件与制品,提供带引用(citation)的搜索和代理式 RAG(agentic RAG)。代理式 RAG 指的是模型自行组合检索与工具调用来生成答案的方式。它还支持工具、MCP 连接器,以及数据库和 CSV 访问。仓库说明称此外还包含 skills 和 text-to-sql。内建的 Workbench UI 用于测试和演示,核心产品是 API。它于 2023 年 5 月 2 日创建,采用 Apache-2.0 许可证,GitHub star 数为 57,598。

不过,能够确认的只有功能范围和仓库指标。所给记录中没有 v1.0.1 的变更记录,因此无法得知这次发布改动了什么。也没有给出性能数值和基准测试。按 10 分制评估,只有 momentum 项为 2.7,freshness、技术和质量各项均为空。因此 API 构成与支持范围可以确认,但仅凭这份记录难以对实际性能或质量作出有依据的判断。