Devotd Github

yuhuanstudio/yunshu

Yunshu 的最新提交为仅 CPU 的 CI 控制台测试环境添加了 OpenAPI dump 所需的 8 种包,并固定了版本。

GitHub 项目说明: Fast local LLM / VLM inference engine for Apple Silicon (MLX). OpenAI- and Anthropic-compatible, lossless speculative decoding (DFlash2 / MTP), hybrid-model prefix cache with RAM/SSD tiers, native Claude Code / Codex / opencode support. Qwen3.8-27B tuned first.

在 GitHub 查看 ↗
星标
★ 3
复刻
0
语言
Python
许可证
Apache-2.0
最新版本
v0.1.5

文章

1