mostlygeek/llama-swap

mostlygeek/llama-swap 是一个 Go 工具，可连接兼容 OpenAI 和 Anthropic 的本地模型服务器，并根据请求切换模型。

GitHub 项目说明: Reliable model swapping for any local OpenAI/Anthropic compatible server - llama.cpp, vllm, etc

星标

★ 6.1K

复刻

523

语言

Go

许可证

MIT

最新版本

v267