【译】在 Mac 上加速 PyTorch 训练，Mac上PyTorch训练加速指南，Mac上PyTorch训练加速指南，加速你的PyTorch训练体验

摘要：本指南介绍了在Mac上加速PyTorch训练的方法。通过优化硬件和软件配置，提高计算性能，从而实现训练过程的加速。本文旨在为Mac用户提供实用的建议和技巧，帮助他们在PyTorch训练中取得更好的性能表现。

近期我对大模型领域产生了浓厚的兴趣，通过OpenCompass排行榜了解到了许多优秀的大模型，我亲自试用过一些大模型，如文心一言等，并借助其他团队的介绍体验了通义千问、清华智谱以及书生·浦语等模型，这次评估让我对大模型在行业的实际应用有了更深入的了解。

文章翻译缘由

在研究过程中，我注意到了清华智普开源的ChatGLM3-6B模型，该模型提到在特定Mac电脑上运行大模型可以无需关注GPU显存问题，这引发了我深度体验该模型的冲动，我也想分享在安装和体验过程中的经验和感受，为此，我决定翻译这篇文章，希望能为其他开发者提供一些有用的信息和指导。

Metal加速的重要性与要求

PyTorch通过使用新的Metal Performance Shaders (MPS)后端为GPU训练加速，为了充分利用MPS的优势，你的Mac需要满足以下要求：

1、配备Apple silicon或AMD GPU的Mac电脑。

2、macOS 12.3或更高版本。

3、Python 3.7或更高版本。

4、Xcode命令行工具。

安装与设置

你可以使用Anaconda或pip进行安装，需要注意的是，使用Apple芯片的Mac和使用Intel x86的Mac的环境设置会有所不同，在安装PyTorch时，请确保选择为MPS设备加速的Preview (Nightly)版本，以下是安装步骤的简要概述：

1、使用curl命令下载并安装Miniconda或pip。

2、使用conda或pip安装PyTorch、torchvision和torchaudio。

3、如果你选择从源代码构建PyTorch，确保你的Xcode版本为13.3.1或更高，并设置USE_MPS环境变量以包含MPS支持。

验证与反馈

完成安装后，你可以使用简单的Python脚本验证MPS支持，如果一切正常，输出结果应显示使用MPS设备的张量，如果在过程中遇到任何问题，可以使用GitHub问题跟踪器报告问题，并标注为“module: mps”。

资源链接

以下是一些有用的资源链接，供你在使用PyTorch和MPS后端时参考：

1、PyTorch安装页面。

2、PyTorch关于MPS后端的官方文档。

3、为MPS后端添加新的PyTorch操作的指南。

4、使用MPS分析器进行PyTorch性能分析的教程。

本文旨在为你提供在Mac上加速PyTorch训练的有价值的信息和帮助，希望你在使用的过程中能够顺利，如果你有任何问题或反馈，欢迎随时与我交流，对于想要在Mac上运行大模型的开发者，我建议关注清华智普的ChatGLM3-6B模型，它可能会为你带来全新的体验。