OpenAI首次在Cerebras芯片上部署AI模型
创始人
2026-02-13 20:44:37
0

OpenAI于周四发布了gpt-5.3-Codex-Spark,这是其首个运行在Cerebras Systems餐盘大小AI加速器上的模型。该加速器搭载了世界上最快的片上内存技术。

这款轻量级模型旨在通过Cerebras的SRAM封装CS3加速器为OpenAI的Codex代码助手用户提供更具交互性的体验,生成响应速度超过每秒1000个Token。

上个月,OpenAI与Cerebras签署了100亿美元的合同,部署多达750兆瓦的定制AI芯片来服务Altman团队的最新一代GPT模型。

Cerebras的晶圆级架构采用了一种名为SRAM的超快片上内存,其速度比英伟达今年CES上发布的即将推出的Rubin GPU中的HBM4内存快约1000倍。

结合推理和应用管道的优化,OpenAI的最新模型能够在眨眼间生成答案。

由于Spark是专有模型,我们无法获得参数数量等详细信息,不像OpenAI去年8月在HuggingFace上发布gpt-oss时那样。我们知道的是,与那个模型一样,它是一个纯文本模型,拥有128,000个Token的上下文窗口。

模型的上下文窗口是指它能同时跟踪的Token(词汇、标点符号、数字等)数量,通常被称为模型的短期记忆。

虽然128K个Token听起来很多,但由于模型必须跟踪现有代码和新生成的代码,像Codex这样的代码助手可能很快就会用完。即使从空白开始,以每秒1000个Token的速度,大约两分钟就会超出上下文限制。

这可能是OpenAI表示Spark默认采用"轻量级"风格的原因,只进行最小的针对性编辑,除非特别要求,否则不会运行调试测试。

快速的模型如果不能编写有效代码就没有太大价值。据OpenAI称,Spark模型在Terminal-Bench 2.0测试中比GPT-5.1-Codex-Mini提供更高的准确性,同时比更智能的GPT-5.3-Codex模型快得多。

OpenAI可能正在寻求GPU之外的选择,但短期内肯定不会放弃GPU

OpenAI写道:"GPU在我们的训练和推理管道中仍然是基础,为广泛使用提供最具成本效益的Token。Cerebras通过在需要极低延迟的工作流程中表现出色来补充这一基础。"

这不仅仅是表面文章。尽管Cerebras的CS3加速器速度很快,但在内存容量方面无法与现代GPU匹敌。SRAM虽然快速,但空间效率不高。整个餐盘大小的芯片仅包含44GB内存。相比之下,英伟达的Rubin将配备288GB的HBM4,而AMD的MI455X将搭载432GB。

这使得GPU在运行大型模型时更经济,特别是在速度不是优先考虑因素的情况下。话虽如此,OpenAI建议随着Cerebras提供更多计算资源,它将把更大的模型引入该计算平台,这大概是为那些愿意为高速推理付费的用户准备的。

GPT-5.3-Codex-Spark目前向Codex Pro用户提供预览版,并通过API向特定的OpenAI合作伙伴开放。

Q&A

Q1:GPT-5.3-Codex-Spark有什么特别之处?

A:GPT-5.3-Codex-Spark是OpenAI首个运行在Cerebras Systems AI加速器上的模型,该加速器采用SRAM片上内存技术,速度比英伟达GPU中的HBM4内存快约1000倍。该模型专为代码助手设计,能以每秒超过1000个Token的速度生成响应,为用户提供更具交互性的编程体验。

Q2:为什么OpenAI选择与Cerebras合作而不是继续只用GPU?

A:OpenAI与Cerebras签署了100亿美元合同,主要是为了获得极低延迟的推理能力。虽然GPU在训练和推理管道中仍然是基础且更具成本效益,但Cerebras的SRAM技术在需要极速响应的工作流程中表现出色,两者形成互补关系而非替代关系。

Q3:GPT-5.3-Codex-Spark的上下文窗口有什么限制?

A:该模型拥有128,000个Token的上下文窗口,虽然看似很大,但由于需要跟踪现有代码和新生成的代码,在每秒1000个Token的生成速度下,大约两分钟就会达到上下文限制。因此模型默认采用"轻量级"风格,只进行最小的针对性编辑。

相关内容

久远银海:获得“一种基于数...
久远银海公告称,公司近日取得国家知识产权局颁发的发明专利证书,发明...
2026-08-04 09:03:46
Akasa推出2U无风扇机...
IT之家 8 月 3 日消息,Akasa(爱克生)英国当地事件 7...
2026-08-04 09:01:29
阳光电源:拟5亿元—10亿...
阳光电源公告,公司拟使用不低于5亿元且不超过10亿元的自有或自筹资...
2026-08-04 08:59:57
股票行情快报:科泰电源(3...
证券之星消息,截至2026年8月3日收盘,科泰电源(300153)...
2026-08-04 08:57:11
阳光电源:拟以5亿元-10...
新京报贝壳财经讯 8月3日,阳光电源公告,拟以不低于人民币5亿元(...
2026-08-04 08:55:30
兆易创新申请电压电流转换电...
国家知识产权局信息显示,兆易创新科技集团股份有限公司、合肥格易集成...
2026-08-04 08:53:58
股票行情快报:西部超导(6...
证券之星消息,截至2026年8月3日收盘,西部超导(688122)...
2026-08-04 08:52:37
玻璃基先进封装竞速 半导体...
AI芯片向大尺寸、高算力、高密度互联加速演进,传统有机载板逐步触及...
2026-08-04 08:48:55
广发基金的半导体设备ETF...
8月3日,半导体设备ETF广发(560780)报收0.892元,收...
2026-08-04 08:48:34

热门资讯

Akasa推出2U无风扇机箱K... IT之家 8 月 3 日消息,Akasa(爱克生)英国当地事件 7 月 29 日宣布推出面向机架式部...
阳光电源:拟5亿元—10亿元回... 阳光电源公告,公司拟使用不低于5亿元且不超过10亿元的自有或自筹资金,以集中竞价方式回购股份,用于未...
机构上调半导体市场全年收入增速... 截至收盘,上证科创板芯片设计主题指数下跌5.0%,上证科创板芯片指数下跌6.6%,中证芯片产业指数下...
A股半导体龙头,净利最高预增3... 8月3日,A股半导体设备龙头中微公司(688012.SH)公告称,预计2026年半年度归属于母公司所...
费城半导体指数开盘跌2.75% 费城半导体指数开盘跌2.75%,现报10999.86点。
四会富仕上半年营收增逾四成 高... 8月3日晚间,四会富仕(300852)披露2026年半年报。上半年公司实现营业收入12.33亿元,同...
集成电路布图设计保护条例 新华社北京8月3日电 集成电路布图设计保护条例 (2001年4月2日中华人民共和国国务院令第300号...
股市必读:日久光电新发布《关于... 截至2026年8月3日收盘,日久光电(003015)报收于10.67元,上涨2.3%,换手率1.99...
顺络电子申请叠层电感器件专利,... 国家知识产权局信息显示,深圳顺络电子股份有限公司申请一项名为“叠层电感器件及电子设备”的专利,公开号...