unslothai/unsloth 是一款在本地运行和训练 LLM 与扩散模型的工具。仓库说明指出,它支持 GGUF 与 MLX 格式,以及 Qwen3.8、DeepSeek-V4、MiniMax-H3、Gemma 4、FLUX。最新版本为 v0.1.909-beta。
README 将该仓库描述为一款用于运行和训练模型的桌面应用。使用方式有三种:Unsloth Desktop 桌面应用、面向浏览器的网页 UI Unsloth Studio,以及可直接编写代码的 Unsloth Core 版本。它在 Windows、Linux、WSL 和 macOS 上支持多 GPU 配置,并支持 NVIDIA、AMD、Intel GPU、CPU 以及 Vulkan 后端。所支持的模型范围很广,除 LLM 外还涵盖扩散、决策、嵌入和音频模型,并在微调之外支持 LoRA、QLoRA 和强化学习,随后可导出与部署。LoRA 是一种在固定基座模型的前提下只训练额外权重来完成适配的方式。代码使用 Python 编写,许可证为 Apache-2.0,GitHub 星标数为 78322。该仓库创建于 2023 年 11 月 29 日。
不过研究记录中只有 0-10 尺度下 7.0 的热度分数,新颖性、技术与质量分数均未记载。给出的信息中没有关于运行速度或训练时间的数值,也没有与其他工具的对比结果。同样也无法确认 v0.1.909-beta 究竟做了哪些改动。在不清楚变更内容的情况下直接使用并不理想,先查看发布说明会更好。