深度学习框架pytorch在mac上也可使用gpu加速 – 十轮网-九游会官网真人游戏第一品牌

深度学习框架pytorch与apple的metal绘图api团队合作,开始在mac上的pytorch训练支持gpu加速,使得pytorch训练速度比原本仅使用cpu快上数倍,而这改进mac执行机器学习工作流程的能力,使得开发者能够在本地端更顺畅地进行模型原型设计和微调。

过去mac上的pytorch训练仅能利用cpu进行运算,但在即将发布的pytorch v1.12版本中,开发者可以使用apple silicon gpu来显著加速模型训练。pytorch团队解释,加速gpu训练使用apple的渲染器metal performance shaders(mps)作为后端实例,mps后端扩展了pytorch框架,在mac上提供脚本和功能以配置和执行运算。

由于每台apple silicon设备都有统一的内存架构,gpu能够直接访问完整的内存存储,官方提到,这使得mac更适合用于机器学习开发,开发者能够在本地端训练更大的网络,降低云计算开发成本,以及对额外本地端gpu的需求,而且统一内存架构也减少了资料检索延迟,提高端到端性能。

根据pytorch团队的测试,在gpu上进行模型训练和评估的速度,都比cpu基准高上不少。

pytorch开发者想要在mac上用到gpu加速的功能,需要执行macos 12.3或更高版本,且安装arm64原生版本python的apple silicon mac,pytorch则需要即将发布的pytorch v1.12,该版本目前正在预览阶段。

发表评论