mostlygeek/llama-swap

mostlygeek/llama-swap은 OpenAI·Anthropic 호환 로컬 모델 서버를 연결해 요청에 따라 모델을 전환하는 Go 도구다.

GitHub 설명: Reliable model swapping for any local OpenAI/Anthropic compatible server - llama.cpp, vllm, etc

스타

★ 6.1K

포크

523

언어

Go

라이선스

MIT

최신 릴리스

v267