亚马逊自2015年开始布局芯片。
当地时间10月19日,亚马逊推出了工具TorchNeuron,使得开发者只需更改一项配置就能将已经编写的PyTorch 代码在亚马逊的AWS Trainium芯片上运行。同时,亚马逊计划10月20日在北美PyTorch 大会上发布TorchNeuron的开源版本。
TorchNeuron 的早期用户覆盖实时语音、分子设计等领域,包括语音AI初创公司Cartesia。
亚马逊称此举是为了给开发者真正的选择权,当开发者可以无代价地在不同芯片间切换时,芯片制造商就必须努力赢得开发者的青睐,而开发者则从更低成本和更快迭代中受益。外界认为降低迁移成本有机会在英伟达的CUDA软件生态上打开一个缺口。
对于这项工具,天使投资人、资深人工智能专家郭涛对第一财经记者表示,低成本迁移只是敲门砖,并非开发者决策的核心标尺。在落地方面,低成本迁移可以降低试错成本,吸引开发者愿意跳出CUDA生态开展验证,为客户新增算力比价选项,但迁移工具的便利度很难抵消生态成熟度差距。开发者真正关注的重心,性能兑现维度排在首位,迁移之后的单卡吞吐、时延、稳定性能否对标原有CUDA方案,直接决定业务能不能上线。开发者还会关注算子持续迭代、社区支持、故障排查体系,迁移只是起点,能否长期稳定承载业务,才是最终决定是否规模化切换的关键。
亚马逊的芯片业务布局于10年前。2015年,亚马逊收购了芯片设计公司Annapurna Labs。目前,亚马逊的芯片业务包括用于AI训练和推理的Trainium、用于通用云计算的Graviton以及二者所基于的负责安全与网络的Nitro系统。亚马逊二季度财报显示,亚马逊人工智能和芯片业务的年化收入均超过250亿美元。
除了亚马逊,谷歌、微软、Meta和OpenAI等公司都在加快布局自研芯片。10月12日,微软表示Azure Maia 200现已投入生产,并且发布最新芯片Azure Maia 300。同时,微软公布新的部署计划:从2027年开始将把Azure Maia系列扩展至数吉瓦级规模部署,使Maia成为微软产品和服务的主要推理系统。9月有消息称,Meta计划于明年上半年在数据中心部署新一代自研AI芯片。
郭涛表示,对比来看,亚马逊芯片优势在于软件栈围绕云客户迁移设计,主打生态解绑,云内一体化交付体验完整;短板是前沿大模型训练生态积累偏弱,社区算子丰富度不足。其他巨头芯片优势是深度绑定自有大模型研发,能够针对自研模型深度调优,短板在于对外开放中立性不足,客户容易同步被锁定在厂商体系之内。
微软、亚马逊接连释放芯片相关动作,郭涛认为降低成本、弱化单一厂商依赖只是表层诉求,并非全部目的。芯片可以和自家大模型、云服务深度协同,打通硬件、编译器、模型的全链路优化,打造差异化云服务能力,形成区别于同行的技术壁垒。这条路线会走向算力供给分层,高端前沿训练仍会保留通用GPU采购,高并发推理场景逐步切换自研算力,巨头追求的是算力话语权,而不是简单摆脱外部供应商。
4001102288 欢迎批评指正
All Rights Reserved 新浪公司 版权所有
