Trainium3:3nm AI芯片破解算力瓶颈
创始人
2025-12-06 16:37:26
0

re:Invent2025大会上,针对AI模型规模扩大带来的算力需求,亚马逊云科技推出首款3nm制程的Trainium3 AI芯片,并基于其打造Amazon EC2 Trainium3 UltraServersTrn3 UltraServers),现已正式可用。

Trainium3 AI芯片 通过先进的设计创新、用于加速芯片间数据传输的优化互连结构以及能够在处理大型 AI 模型时消除瓶颈的增强型内存系统,实现了突破性的性能提升。除了性能增长之外, Trainium3 实现显著的节能效果,与前几代相比能效提升 40% ,在大规模部署中尤为关键,从而能够提供更具成本效益的 AI 基础设施,同时降低数据中心的整体能耗与环境影响。

与上一代相比,Trn3 UltraServers计算性能提升4.4倍,能效提升4倍,内存带宽提升近4倍,单系统可集成144颗芯片,总算力达362 FP8 PFLOPs

在实际场景中,Trainium3展现出强劲效能:运行OpenAI开源模型GPT-OSS时,单芯片吞吐量提升3倍,响应速度加快4倍,可将模型训练周期从数月缩短至数周。AnthropicRicoh等客户已通过Trainium系列将训练与推理成本降低50%Amazon Bedrock也已在Trainium3上运行生产级工作负载。

Trainium3的算力突破需匹配低延迟网络才能释放最大价值,亚马逊云科技通过垂直集成的网络架构,为分布式AI计算打通了数据流动通道。

网络升级:构建无延迟的算力协同体系

分布式AI计算的通信瓶颈是行业共性难题,亚马逊云科技通过垂直集成的网络基础设施给出解决方案。Trn3 UltraServers搭载全新NeuronSwitch-v1与增强型Neuron Fabric网络,前者使单台服务器带宽提升2倍,后者将芯片间通信延迟降至不足10微秒。

这种低延迟、高带宽的网络架构,为 agent 系统、 MoE 架构等未来 AI 工作负载提供了数据流动保障,使实时决策系统、无延迟对话式 AI 等此前难以实现的应用成为可能。对于规模化需求, EC2 UltraClusters 3.0 可连接数千台 UltraServer ,最多搭载 100 万颗 Trainium 芯片,规模较上一代提升 10 倍,能够支撑万亿 token 级数据集上的多模态模型训练,或为数百万并发用户提供实时推理服务。

未来布局:Trainium4开启跨架构协同

亚马逊云科技已经着手研发下一代Trainium4,其设计目标是在各项性能指标上实现显著提升,包括至少6倍的FP4处理性能、3倍的FP8性能以及4倍的内存带宽,以支撑下一代前沿模型的训练与推理需求。随着硬件与软件的持续优化,最终的整体性能提升将远高于这些芯片参数本身的提升幅度。

Trainium4在 FP8 性能上的 3 倍提升是一次基础性飞跃,使 AI 模型的训练速度至少提升 3 倍,或处理至少 3 倍的推理请求,并可通过持续的软件增强与特定工作负载优化获得更多额外加速。 FP8 作为行业标准的精度格式,能够在现代 AI 工作负载中平衡模型准确性与计算效率。

扩展性革新成为核心亮点:Trainium4将支持NVIDIA NVLink Fusion技术,实现与Graviton CPUElastic Fabric AdapterEFA)在通用MGX机架内的无缝协作,构建兼容GPUTrainium服务器的机架级AI基础设施,兼顾灵活性与高性能,为高要求AI工作负载提供优化平台。

从芯片到网络,从当前产品到未来布局,Peter DeSantis的分享勾勒出亚马逊云科技的基础设施革新逻辑:以全栈优化打破性能瓶颈,以定制化设计降低运营成本,最终让不同规模的企业都能以更低门槛获取AI时代的核心算力。

相关内容

惠伦晶体:TCXO已应用于...
有投资者在互动平台向惠伦晶体提问:“数字化、智能化设备的频率元器件...
2025-12-08 23:06:36
南大光电:Arf光刻胶现有...
每经AI快讯,12月8日,南大光电在互动平台表示,公司Arf光刻胶...
2025-12-08 23:06:30
原创 ...
时隔八年,中俄反导演习再度上演。美国主导的全球反导体系,第一次遇到...
2025-12-08 22:36:19
澳媒感叹:中国过去试图追赶...
【文/观察者网 陈思佳】“在定义现代世界的每一项技术中,中国都占据...
2025-12-08 22:36:14
中富电路控股股东之一致行动...
雷达财经 文|冯秀语 编|李亦辉 12月8日,深圳中富电路股份有限...
2025-12-08 22:08:46
艾华集团:已实现电压高达6...
有投资者在互动平台向艾华集团提问:“电容高端市场,一直被日本垄断,...
2025-12-08 22:08:44
股票行情快报:中航光电(0...
证券之星消息,截至2025年12月8日收盘,中航光电(002179...
2025-12-08 22:08:41
亨通光电:发布多场景光模块...
【亨通光电发布投资者关系活动会议纪要,披露多场景光模块解决方案】1...
2025-12-08 22:08:35
亨通光电在厦门成立深海科技...
企查查APP显示,近日,亨通华海深海科技(厦门)有限公司成立,法定...
2025-12-08 22:08:28

热门资讯

澳媒感叹:中国过去试图追赶西方... 【文/观察者网 陈思佳】“在定义现代世界的每一项技术中,中国都占据主导地位。”澳大利亚广播公司(AB...
艾华集团:已实现电压高达600... 有投资者在互动平台向艾华集团提问:“电容高端市场,一直被日本垄断,公司是否能生产电压>450v以上电...
股票行情快报:中航光电(002... 证券之星消息,截至2025年12月8日收盘,中航光电(002179)报收于33.5元,上涨0.03%...
亨通光电在厦门成立深海科技公司 企查查APP显示,近日,亨通华海深海科技(厦门)有限公司成立,法定代表人为许人东,注册资本为5000...
自动化公司申请用于定位RFID... 国家知识产权局信息显示,自动化公司申请一项名为“用于定位RFID标签的最佳传感器/测量选择”的专利,...
苏州呈润电子取得显示设备安装支... 国家知识产权局信息显示,苏州呈润电子有限公司取得一项名为“显示设备安装支架”的专利,授权公告号CN2...
豪鹏科技申请二级温度保护电路和... 国家知识产权局信息显示,深圳市豪鹏科技股份有限公司申请一项名为“二级温度保护电路和电池管理系统”的专...
炫道光电取得舞台灯散热结构专利... 国家知识产权局信息显示,佛山市炫道光电设备有限公司取得一项名为“一种舞台灯的散热结构”的专利,授权公...
历史课本上明太祖画像换了,记者... 极目新闻记者 杜光然 近日,“课本上明太祖照片换了”的话题冲上热搜,引发网友热议,媒体纷纷播报此事。...
森雕电器取得防电源插头脱落构件... 国家知识产权局信息显示,浙江森雕电器有限公司取得一项名为“一种防电源插头脱落构件”的专利,授权公告号...