lmstudio-ai/mlx-engine

这是什么？

核心功能

• 01在 Apple 芯片 Mac 上运行 MLX 格式的文本大语言模型。
• 02支持 Pixtral、Qwen2-VL、Llama-3.2-Vision 等视觉模型。
• 03支持使用独立草稿模型进行投机解码。
• 04通过 Outlines 提供结构化输出能力。
• 05从 LM Studio 0.3.4 起在 Mac 版中内置。

适用场景

• 在 Mac 上通过 LM Studio 私密地运行本地大语言模型。
• 使用独立 demo 脚本测试 MLX 文本或视觉模型。
• 基于 MLX 模型推理构建本地 Python 应用。

快速上手

1. 1

   克隆仓库

   git clone https://github.com/lmstudio-ai/mlx-engine.git
2. 2

   进入项目目录

   cd mlx-engine
3. 3

   安装所需依赖包

   pip install -U -r requirements.txt
4. 4

   使用 lms CLI 下载模型并运行演示

   lms get mlx-community/Meta-Llama-3.1-8B-Instruct-4bit

使用前须知

• !需要 macOS 14.0 或更高版本，并使用 Apple 芯片。
• !独立演示需要专门使用 python3.11。
• !模型下载体积较大，每个通常为数 GB。

收录于专题

标签

常见问题

mlx-engine 是什么？

面向 Apple 芯片、基于 MLX 的大语言模型推理引擎，是 LM Studio 的底层引擎。 mlx-engine 是 LM Studio 在 Mac 上加载和运行模型所使用的、基于 Apple MLX 的大语言模型引擎。它整合了 mlx-lm 用于文本生成、Outlines 用于结构化输出、mlx-vlm 用于视觉模型，让 LM Studio 用户可以在 Apple 芯片上本地运行 MLX 格式的模型。

mlx-engine 可以免费使用吗？用的什么许可证？

mlx-engine 以 MIT 许可证开源。用于商业产品前，请先确认许可证条款。

mlx-engine 还在维护吗？

活跃维护中。mlx-engine 最近一次提交是在 2026年11月3日。

mlx-engine 适合用来做什么？

在 Mac 上通过 LM Studio 私密地运行本地大语言模型。 使用独立 demo 脚本测试 MLX 文本或视觉模型。 基于 MLX 模型推理构建本地 Python 应用。

mlx-engine 怎么安装和运行？

克隆仓库: git clone https://github.com/lmstudio-ai/mlx-engine.git 进入项目目录: cd mlx-engine 安装所需依赖包: pip install -U -r requirements.txt 使用 lms CLI 下载模型并运行演示: lms get mlx-community/Meta-Llama-3.1-8B-Instruct-4bit

在哪里获取 mlx-engine？

源代码和安装说明在 GitHub 上：https://github.com/lmstudio-ai/mlx-engine