All postsTag
#language-model
2 posts
November 2, 2026
Run a Hugging Face model on your Mac with MLX
Install mlx-lm in a Python venv, run a model from the mlx-community org on Apple silicon, pick 4-bit or 8-bit for your Mac's memory, and convert your own model, with real speed and memory numbers from an M4.
November 2, 2026
用 MLX 在 Mac 上运行 Hugging Face 模型
在 Python 虚拟环境里安装 mlx-lm，在 Apple 芯片上运行 mlx-community 的模型，按内存选 4 位还是 8 位，并自己转换模型，附 M4 上实测的速度和内存。