github.devotd.
发布

ggml-org/llama.cpp b11744 — 新增用于外部访问的连接隧道

ggml-org/llama.cpp b11744 是一个发布版本,它以实验性功能的形式新增了外部网络连接隧道,并修正了服务器处理和生成文档的默认值。

仓库信息ggml-org/llama.cpp ↗

LLM inference in C/C++

星标
★ 131.7K
复刻
24.6K
语言
C++
许可证
MIT
最新版本
b11744
查看原始来源 ↗在 GitHub 查看 ↗

ggml-org/llama.cpp b11744 是于 2026-10-19 UTC 发布的版本。它为这个基于 C/C++ 的 LLM 推理项目新增了可从外部网络访问的连接隧道,并将其作为实验性功能。同时还修复了连接功能关闭时代码显示异常的问题。本次变更的重点不是新的推理方式或性能提升,而是与访问服务器的路径相关的功能和修正。变更内容列于 ggml-org/llama.cpp 的 b11744 发布记录中。

连接隧道是一项让外部网络能够访问该项目服务器的功能。该版本将这一功能标记为实验性功能。它还一并处理了服务器地址与端口、服务器终止行为,并调整了生成文档的默认值。因此 b11744 不仅包含隧道的加入,也包含与服务器连接及终止、文档默认值相关的更新。仓库说明将 llama.cpp 定义为 C/C++ 的 LLM 推理项目,本次发布记录并未给出具体的性能数据。

标为实验性功能这一点,是判断连接隧道状态时的重要界限。发布信息中没有用于评估隧道稳定性或性能的测量结果。因此,对于需要外部网络访问的环境而言,这是一项值得考虑的变更,但仅凭发布记录仍难以判断其实际运用的范围或准备程度。

同领域的其他项目

本地推理引擎 ↗