Trainium3:3nm AI芯片破解算力瓶颈
创始人
2025-12-06 16:37:26
0次

在re:Invent2025大会上,针对AI模型规模扩大带来的算力需求,亚马逊云科技推出首款3nm制程的Trainium3 AI芯片,并基于其打造Amazon EC2 Trainium3 UltraServers(Trn3 UltraServers),现已正式可用。

Trainium3 AI芯片 通过先进的设计创新、用于加速芯片间数据传输的优化互连结构以及能够在处理大型 AI 模型时消除瓶颈的增强型内存系统,实现了突破性的性能提升。除了性能增长之外, Trainium3 实现显著的节能效果,与前几代相比能效提升 40% ,在大规模部署中尤为关键,从而能够提供更具成本效益的 AI 基础设施,同时降低数据中心的整体能耗与环境影响。

与上一代相比,Trn3 UltraServers计算性能提升4.4倍,能效提升4倍,内存带宽提升近4倍,单系统可集成144颗芯片,总算力达362 FP8 PFLOPs。

在实际场景中,Trainium3展现出强劲效能:运行OpenAI开源模型GPT-OSS时,单芯片吞吐量提升3倍,响应速度加快4倍,可将模型训练周期从数月缩短至数周。Anthropic、Ricoh等客户已通过Trainium系列将训练与推理成本降低50%,Amazon Bedrock也已在Trainium3上运行生产级工作负载。

Trainium3的算力突破需匹配低延迟网络才能释放最大价值,亚马逊云科技通过垂直集成的网络架构,为分布式AI计算打通了数据流动通道。

网络升级:构建无延迟的算力协同体系

分布式AI计算的通信瓶颈是行业共性难题,亚马逊云科技通过垂直集成的网络基础设施给出解决方案。Trn3 UltraServers搭载全新NeuronSwitch-v1与增强型Neuron Fabric网络,前者使单台服务器带宽提升2倍,后者将芯片间通信延迟降至不足10微秒。

这种低延迟、高带宽的网络架构,为 agent 系统、 MoE 架构等未来 AI 工作负载提供了数据流动保障,使实时决策系统、无延迟对话式 AI 等此前难以实现的应用成为可能。对于规模化需求, EC2 UltraClusters 3.0 可连接数千台 UltraServer ,最多搭载 100 万颗 Trainium 芯片,规模较上一代提升 10 倍,能够支撑万亿 token 级数据集上的多模态模型训练,或为数百万并发用户提供实时推理服务。

未来布局:Trainium4开启跨架构协同

亚马逊云科技已经着手研发下一代Trainium4,其设计目标是在各项性能指标上实现显著提升,包括至少6倍的FP4处理性能、3倍的FP8性能以及4倍的内存带宽,以支撑下一代前沿模型的训练与推理需求。随着硬件与软件的持续优化,最终的整体性能提升将远高于这些芯片参数本身的提升幅度。

Trainium4在 FP8 性能上的 3 倍提升是一次基础性飞跃,使 AI 模型的训练速度至少提升 3 倍,或处理至少 3 倍的推理请求,并可通过持续的软件增强与特定工作负载优化获得更多额外加速。 FP8 作为行业标准的精度格式,能够在现代 AI 工作负载中平衡模型准确性与计算效率。

扩展性革新成为核心亮点:Trainium4将支持NVIDIA NVLink Fusion技术,实现与Graviton CPU、Elastic Fabric Adapter(EFA)在通用MGX机架内的无缝协作,构建兼容GPU与Trainium服务器的机架级AI基础设施,兼顾灵活性与高性能,为高要求AI工作负载提供优化平台。

从芯片到网络,从当前产品到未来布局,Peter DeSantis的分享勾勒出亚马逊云科技的基础设施革新逻辑:以全栈优化打破性能瓶颈,以定制化设计降低运营成本,最终让不同规模的企业都能以更低门槛获取AI时代的核心算力。

相关内容

正泰电源取得多路输出反激电...
国家知识产权局信息显示,上海正泰电源系统有限公司取得一项名为“多路...
2026-09-14 01:04:06
园林股份再出手!拟购华澜微...
业绩接连亏损之下,园林股份(605303)欲再度加码半导体业务。9...
2026-09-14 01:03:58
美股半导体股暗盘集体下挫
每经AI快讯,9月13日,美股半导体板块在暗盘交易中集体走低。美光...
2026-09-14 01:03:52
浙商证券:在AI驱动算力设...
人民财讯9月13日电,浙商证券研报认为,AI算力重塑PCB需求结构...
2026-09-14 01:03:46
股市必读:9月11日和辉光...
截至2026年9月11日收盘,和辉光电(688538)报收于2.2...
2026-09-14 01:03:31
股市必读:博敏电子(603...
截至2026年9月11日收盘,博敏电子(603936)报收于20....
2026-09-14 01:03:26
国产AI芯片大卖,上半年谁...
(本文作者为 半导体产业纵横,钛媒体经授权发布) 文 | 半导...
2026-09-13 22:56:32
“未给英伟达供货!”“5天...
记者|黄胜 张益铭 编辑|程鹏 黄胜 张益铭 杜恒峰 校对|张锦河...
2026-09-13 22:56:23
原创 ...
不知道大家有没有过这种细思极恐的经历: 前一秒刚和朋友聊完想换个双...
2026-09-13 22:56:11

热门资讯

国产AI芯片大卖,上半年谁真正... (本文作者为 半导体产业纵横,钛媒体经授权发布) 文 | 半导体产业纵横 最近,海光、寒武纪、...
股价年内翻倍!宏昌电子拟定增募... 9月11日,宏昌电子(603002.SH)发布2026年度向特定对象发行A股股票预案,拟募集资金总额...
车灯内卷时代,出路在何方?安瑞... 厦门2026年9月13日-- 汽车智能化持续演进,汽车车灯早已突破传统照明功能,跃升为整车智能交互、...
广东先导微电子:深耕光电与集成... 9月9日,第27届中国国际光电博览会(CIOE)在深圳国际会展中心(宝安新馆)正式启幕。作为化合物半...
三相稳压器厂家推荐与选型指南:... 对于工业设备所需的50KVA三相稳压器,尤其是补偿式三相调压器,选型核心在于稳压精度、响应速度和负载...
星球石墨中标:唐山三友电子化学... 证券之星消息,根据天眼查APP-财产线索数据整理,根据唐山三友电子化学品有限责任公司9月10日发布的...
2026 年嵌入式冰箱技术盘点... 2026-09-12 19:00:29 作者:狼叫兽 装修到橱柜阶段,很多人卡在同一个问题上:嵌入式...
把新质生产力嵌入旅程:2026... 扣紧腰封、绑好束带,试着迈出第一步后,背部的电机随即给出一股向前的力。起初,人和机器还在互相寻找节奏...
真空里造了个聚灵阵,超导的灵气... 修真小说里,高手要突破境界,常常得找个聚灵阵,把天地灵气汇拢、放大,再引到自己身上,一举冲关。 最...
每周股票复盘:剑桥科技(603... 截至2026年9月11日收盘,剑桥科技(603083)报收于224.46元,较上周的188.37元上...