互联网 频道

PyTorch+昇腾 共促AI生态创新发展

  2023年10月5日(北京时间),PyTorch社区正式发布2.1版本,经过PyTorch社区与昇腾的持续合作和共同努力,Pytorch 2.1版本已同步支持昇腾NPU,意味着开发者可直接在PyTorch 2.1上基于昇腾进行模型开发。未来,通过持续的社区技术贡献,昇腾将与PyTorch社区版本同步演进及发布,共促AI技术创新和开源生态发展。

  图注:PyTorch 社区2.1版本的官方发布声明中宣布昇腾NPU已成功对接

  PyTorch在新版本中发布了更加完善的第三方设备接入机制,该特性由昇腾主导,与PyTorch社区的核心维护者共同完成。基于该特性,三方AI算力设备无需对原有框架代码进行修改就能对接PyTorch框架,昇腾也提供了官方认证的Torch NPU参考实现,可以指导三方设备便捷接入。

  在早前版本中,由于缺少对于昇腾算力设备的原生支持,开发者如果想在主流框架下调用昇腾NPU实现加速,还需要花费数周时间进行模型迁移。而现在,基于新版本,用户可以在昇腾NPU上直接享受原生PyTorch的开发体验,获得可以高效运行在昇腾算力设备上的模型和应用。

  基于PyTorch,昇腾已经适配了BLOOM、GPT-3、LLaMA等业界主流大模型,深度优化后性能可持平业界,在最新的PyTorch版本上,昇腾将与社区紧密合作,同步演进,不断提升模型加速能力。

  未来,昇腾将通过持续的技术贡献,积极推动PyTorch社区多样性算力改进,优化PyTorch框架,帮助释放昇腾算力,与PyTorch社区贡献者一起,共促AI技术创新和开源生态的快速发展。

特别提醒:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,并请自行核实相关内容。本站不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。
0
相关文章