github.devotd.
新发现大语言模型基础设施

unslothai/unsloth v0.1.909-beta — LLM 与扩散模型的运行、训练工具

unslothai/unsloth 以 Python 开发、采用 Apache-2.0 许可证开源,是一款可在本地运行、训练和微调 LLM 与扩散模型的工具,其最新版本为 v0.1.909-beta。

仓库信息unslothai/unsloth ↗

unslothai/unsloth 以 Python 开发、采用 Apache-2.0 许可证开源,是一款可在本地运行、训练和微调 LLM 与扩散模型的工具,其最新版本为 v0.1.909-beta。

GitHub 项目说明: Local UI to run and train LLMs and diffusion models. Supports GGUF, MLX, Qwen3.8, DeepSeek-V4, MiniMax-H3, Gemma 4, FLUX and more.

星标
★ 78.3K
复刻
7.2K
语言
Python
许可证
Apache-2.0
最新版本
v0.1.909-beta
查看原始来源 ↗在 GitHub 查看 ↗

unslothai/unsloth 是一款在本地运行和训练 LLM 与扩散模型的工具。仓库说明指出,它支持 GGUF 与 MLX 格式,以及 Qwen3.8、DeepSeek-V4、MiniMax-H3、Gemma 4、FLUX。最新版本为 v0.1.909-beta。

README 将该仓库描述为一款用于运行和训练模型的桌面应用。使用方式有三种:Unsloth Desktop 桌面应用、面向浏览器的网页 UI Unsloth Studio,以及可直接编写代码的 Unsloth Core 版本。它在 Windows、Linux、WSL 和 macOS 上支持多 GPU 配置,并支持 NVIDIA、AMD、Intel GPU、CPU 以及 Vulkan 后端。所支持的模型范围很广,除 LLM 外还涵盖扩散、决策、嵌入和音频模型,并在微调之外支持 LoRA、QLoRA 和强化学习,随后可导出与部署。LoRA 是一种在固定基座模型的前提下只训练额外权重来完成适配的方式。代码使用 Python 编写,许可证为 Apache-2.0,GitHub 星标数为 78322。该仓库创建于 2023 年 11 月 29 日。

不过研究记录中只有 0-10 尺度下 7.0 的热度分数,新颖性、技术与质量分数均未记载。给出的信息中没有关于运行速度或训练时间的数值,也没有与其他工具的对比结果。同样也无法确认 v0.1.909-beta 究竟做了哪些改动。在不清楚变更内容的情况下直接使用并不理想,先查看发布说明会更好。