Unsloth-MLX：在Mac上微调LLM，代码无缝迁移到云端GPU

对于 Mac 用户而言，守着性能强劲、拥有巨大统一内存（如 Mac Studio 最高可达 512GB）的设备，却在原型实验阶段反复租用昂贵的云端 GPU，这无疑是一种资源浪费。

那么，有没有一种方案，能让你先在 Mac 上完成原型开发，再将代码无缝迁移到云端，直接调用 Unsloth 进行大规模训练？

一位开发者推出的工具 Unsloth-MLX 正是为了实现这一愿望。它基于 Apple 的 MLX 框架，让拥有 Apple Silicon 芯片的 Mac 用户能够在本地高效微调大语言模型。最核心的优势在于：你只需更改一行 import 导入语句，其余代码完全无需改动，迁移成本几乎为零。

项目特点

• 🚀 在Mac上本地微调LLM
• 💾 利用统一内存优势
• 🔄 与Unsloth相同的API
• 📦 支持导出为HuggingFace格式或GGUF

代码兼容性示例：

# Unsloth (CUDA)                 # Unsloth-MLX (Apple Silicon)
from unsloth import FastLanguageModel   from unsloth_mlx import FastLanguageModel
from trl import SFTTrainer              from unsloth_mlx import SFTTrainer

项目状态

目前v0.3.0版本已支持原生训练和完整的RL损失函数：

• SFT训练：✅ 稳定
• DPO训练：✅ 稳定（完整DPO损失）
• ORPO训练：✅ 稳定（完整ORPO损失）
• GRPO训练：✅ 稳定（多生成+奖励）
• 视觉模型：⚠️ Beta版

使用场景对比

本地Mac (Unsloth-MLX)     →     云端GPU (Unsloth)
   原型和实验                规模化训练
   小数据集                  大数据集
   快速迭代                  生产运行

需要大家注意的是，该项目与Unsloth官方并无关联，算是兼容Unsloth的周边生态项目。

但是，支持Mac平台LLM训练已经成为刚需，Unsloth官方也认识到这一问题，支持MLX训练的官方版本应该很快就会出炉，社区贡献的PR已经提出等待合并，不想折腾的可以坐等官方版本。

对于想要在本地实验LLM微调的Mac用户来说，这确实是个值得尝试的工具。毕竟，能先用本地资源验证想法，再决定是否投入云端GPU成本，这种工作流程更符合实际开发需求。

项目地址：https://github.com/ARahim3/unsloth-mlx