跳到正文
新浪科技·· 2026-10-23AI 評分73

谷歌開源 TorchTPU、亞馬遜推出 TorchNeuron,降低 PyTorch 模型遷移門檻

谷歌亚马逊联手拆英伟达CUDA围墙!98%模型免改写迁移、TPU比GB200快57%

AI 導讀

谷歌開源 TorchTPU、亞馬遜推出 TorchNeuron,讓 PyTorch 模型可透過調整裝置或少量設定,轉至 TPU 和 Trainium 晶片運行。

正文

快科技10月23日消息,据报道,谷歌与亚马逊在PyTorch Conference 2026上同步放出软件大招。谷歌开源TorchTPU,亚马逊推出TorchNeuron,目标直指英伟达CUDA生态最坚固的壁垒:模型迁移成本。

谷歌宣称,超过98%的既有PyTorch模型,只需将设备设定改为“model.to(‘tpu’)”,便能在TPU上运行。谷歌验证了近5000个Hugging Face高频模型,其中4917个完成端到端验证,Tier-1无崩溃通过率达98%。迁移时间压缩至几分钟到数天。

亚马逊的TorchNeuron同样采用开源策略(Apache 2.0授权),让PyTorch模型直接运行于Trainium2与Trainium3芯片。开发者只需修改少量配置,将指向CUDA的设定改为AWS Neuron,无需重写整套应用。

性能层面,TPU已展现出竞争力。据悉,16颗谷歌Ironwood TPU(TPU v7)运行Kimi K3模型,开启推测解码后,单用户生成速度达每秒709个token。同等配置的16块英伟达GB200搭配vLLM,速度为每秒452个token,TPU领先约57%。

需要指出的是,CUDA的护城河,从来不只是GPU算力,而是二十年积累的工具链、开发者习惯与迁移成本。当TorchTPU和TorchNeuron把“换芯片”的软件门槛从数月压缩到几分钟,企业就有了按能效和价格重新选择硬件的底气,而英伟达的生态黏性,正被软件工具一点点撬开。

【本文结束】如需转载请务必注明出处:快科技

责任编辑:红茶

新浪众测 新浪众测

新浪科技公众号

新浪科技公众号

“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)

科学大家

新浪科技

新浪科技为你带来最新鲜的科技资讯

苹果汇

苹果汇为你带来最新鲜的苹果产品新闻

新浪众测

新酷产品第一时间免费试玩

新浪探索

提供最新的科学家新闻,精彩的震撼图片

來源:新浪科技 · finance.sina.com.cn