Trainium3:3nm AI芯片破解算力瓶颈
创始人
2025-12-06 16:37:26
0

re:Invent2025大会上,针对AI模型规模扩大带来的算力需求,亚马逊云科技推出首款3nm制程的Trainium3 AI芯片,并基于其打造Amazon EC2 Trainium3 UltraServersTrn3 UltraServers),现已正式可用。

Trainium3 AI芯片 通过先进的设计创新、用于加速芯片间数据传输的优化互连结构以及能够在处理大型 AI 模型时消除瓶颈的增强型内存系统,实现了突破性的性能提升。除了性能增长之外, Trainium3 实现显著的节能效果,与前几代相比能效提升 40% ,在大规模部署中尤为关键,从而能够提供更具成本效益的 AI 基础设施,同时降低数据中心的整体能耗与环境影响。

与上一代相比,Trn3 UltraServers计算性能提升4.4倍,能效提升4倍,内存带宽提升近4倍,单系统可集成144颗芯片,总算力达362 FP8 PFLOPs

在实际场景中,Trainium3展现出强劲效能:运行OpenAI开源模型GPT-OSS时,单芯片吞吐量提升3倍,响应速度加快4倍,可将模型训练周期从数月缩短至数周。AnthropicRicoh等客户已通过Trainium系列将训练与推理成本降低50%Amazon Bedrock也已在Trainium3上运行生产级工作负载。

Trainium3的算力突破需匹配低延迟网络才能释放最大价值,亚马逊云科技通过垂直集成的网络架构,为分布式AI计算打通了数据流动通道。

网络升级:构建无延迟的算力协同体系

分布式AI计算的通信瓶颈是行业共性难题,亚马逊云科技通过垂直集成的网络基础设施给出解决方案。Trn3 UltraServers搭载全新NeuronSwitch-v1与增强型Neuron Fabric网络,前者使单台服务器带宽提升2倍,后者将芯片间通信延迟降至不足10微秒。

这种低延迟、高带宽的网络架构,为 agent 系统、 MoE 架构等未来 AI 工作负载提供了数据流动保障,使实时决策系统、无延迟对话式 AI 等此前难以实现的应用成为可能。对于规模化需求, EC2 UltraClusters 3.0 可连接数千台 UltraServer ,最多搭载 100 万颗 Trainium 芯片,规模较上一代提升 10 倍,能够支撑万亿 token 级数据集上的多模态模型训练,或为数百万并发用户提供实时推理服务。

未来布局:Trainium4开启跨架构协同

亚马逊云科技已经着手研发下一代Trainium4,其设计目标是在各项性能指标上实现显著提升,包括至少6倍的FP4处理性能、3倍的FP8性能以及4倍的内存带宽,以支撑下一代前沿模型的训练与推理需求。随着硬件与软件的持续优化,最终的整体性能提升将远高于这些芯片参数本身的提升幅度。

Trainium4在 FP8 性能上的 3 倍提升是一次基础性飞跃,使 AI 模型的训练速度至少提升 3 倍,或处理至少 3 倍的推理请求,并可通过持续的软件增强与特定工作负载优化获得更多额外加速。 FP8 作为行业标准的精度格式,能够在现代 AI 工作负载中平衡模型准确性与计算效率。

扩展性革新成为核心亮点:Trainium4将支持NVIDIA NVLink Fusion技术,实现与Graviton CPUElastic Fabric AdapterEFA)在通用MGX机架内的无缝协作,构建兼容GPUTrainium服务器的机架级AI基础设施,兼顾灵活性与高性能,为高要求AI工作负载提供优化平台。

从芯片到网络,从当前产品到未来布局,Peter DeSantis的分享勾勒出亚马逊云科技的基础设施革新逻辑:以全栈优化打破性能瓶颈,以定制化设计降低运营成本,最终让不同规模的企业都能以更低门槛获取AI时代的核心算力。

相关内容

用对DSO5054A的4个...
作为第三方测试设备测评师,我经常遇到工程师抱怨:明明拿着安捷伦DS...
2026-07-24 13:31:08
维科精密获得实用新型专利授...
证券之星消息,根据天眼查APP数据显示维科精密(301499)新获...
2026-07-24 13:29:44
信驰科技取得燃气表阀门控制...
国家知识产权局信息显示,重庆信驰科技有限公司取得一项名为“燃气表阀...
2026-07-24 13:27:54
机器人获得实用新型专利授权...
证券之星消息,根据天眼查APP数据显示机器人(300024)新获得...
2026-07-24 13:27:05
高端印制电路板价格暴涨,现...
据央视财经报道,PCB,名为印制电路板,是电子产品中不可或缺的核心...
2026-07-24 13:26:24
量引科技完成天使轮数千万元...
珠海量引科技有限公司(以下简称:量引科技)聚焦光子集成电路领域,致...
2026-07-24 13:25:29
引望申请供电电路及控制方法...
国家知识产权局信息显示,引望智能技术有限公司申请一项名为“供电电路...
2026-07-24 13:24:13
屹晶微电子取得振荡器电路及...
国家知识产权局信息显示,浙江屹晶微电子股份有限公司取得一项名为“一...
2026-07-24 13:18:28

热门资讯

【机构调研记录】工银瑞信基金调... 证券之星消息,根据市场公开信息及7月23日披露的机构调研信息,工银瑞信基金近期对2家上市公司进行了调...
宸展光电申请图像自动检测系统及... 国家知识产权局信息显示,宸展光电(厦门)股份有限公司申请一项名为“图像自动检测系统及其方法”的专利,...
ASML申请内部光源、光刻装置... 国家知识产权局信息显示,ASML荷兰有限公司申请一项名为“内部光源、光刻装置、量测系统,以及相关方法...
烽火电子:加快推进低空防御系统... 证券之星消息,烽火电子(000561)07月23日在投资者关系平台上答复投资者关心的问题。 投资者提...
电子特气概念再度拉升!中船特气... 7月24日,电子特气概念盘中震荡反弹, 中船特气(688146.SH)涨超10%,中巨芯、 华特气体...
燕东微获得实用新型专利授权:“... 证券之星消息,根据天眼查APP数据显示燕东微(688172)新获得一项实用新型专利授权,专利名为“电...
正泰电器获得实用新型专利授权:... 证券之星消息,根据天眼查APP数据显示正泰电器(601877)新获得一项实用新型专利授权,专利名为“...
超导概念板块5月28日涨1.4... 证券之星消息,5月28日超导概念板块较上一交易日上涨1.43%,西部超导领涨。当日上证指数报收于40...
存储芯片巨头,盘前大涨 SK海力士美股盘前一度涨超5.4%,截至北京时间7月23日16:24,涨幅为5.22%。 据媒体报...
卖芯片的在赚钱,用芯片的在亏钱... AI主题股内部正在上演一场分化行情——芯片等基础设施供应商持续走强,而大手笔投入AI的超大规模云计算...