AWS推出TorchNeuron:Trainium芯片迎来原生PyTorch开源后端
摘要
AWS发布开源原生PyTorch后端TorchNeuron,专为Trainium芯片设计,10月20日起以Apache 2.0协议进入公开Beta,代码托管于github.com/aws-neuron/torch-neuronx。该后端有望降低开发者将PyTorch模型迁移至Trainium的门槛。
AWS正在为其自研AI芯片Trainium补齐软件栈的关键一环。10月20日,该公司宣布推出TorchNeuron,定位为面向Trainium的原生PyTorch后端,并以开源形式对外发布。
从发布形态看,TorchNeuron采用Apache 2.0协议,目前处于公开Beta阶段,代码已托管在github.com/aws-neuron/torch-neuronx仓库中,开发者可直接获取并参与测试。
所谓原生PyTorch后端,意味着PyTorch框架与Trainium芯片之间的对接不再依赖额外的转换路径,而是由该后端直接承接。对于已在PyTorch生态中构建训练流程的团队而言,这一层适配的成熟度将直接影响其评估Trainium的意愿。
此次以开源加公开Beta的方式推进,也表明AWS希望在早期阶段引入外部开发者反馈,加速后端在真实负载下的打磨。后续TorchNeuron能否成为Trainium吸引PyTorch用户的重要入口,值得持续关注。
本文由新大陆基于公开信息编辑整理
信息来源:AIHOT AIHOT原文 ↗