国家知识产权局信息显示,武汉凌久微电子有限公司申请一项名为“一种SRAM空间优化与NPU推理方法及系统”的专利,公开号CN122733755A,申请日期为2026年6月。
专利摘要显示,本发明提供了一种SRAM空间优化与NPU推理方法及系统,将NPU内部的SRAM空间划分为第一缓冲区Buffer1和第二缓冲区Buffer2;在NPU执行大语言模型LLM推理的Decode阶段的多头注意力计算过程中,采用PING‑PONG策略,Buffer1和Buffer2交替执行注意力计算和KV Cache的读取。本发明提供了一套基于PING‑PONG机制的FlashAttention软件技术,引入了双缓冲区间,采取了DRAM数据搬运与注意力机制并行处理的方案,有效避免了大语言模型端侧推理中内存墙的问题。
天眼查资料显示,武汉凌久微电子有限公司,成立于2021年,位于武汉市,是一家以从事计算机、通信和其他电子设备制造业为主的企业。企业注册资本16544.959958万人民币。通过天眼查大数据分析,武汉凌久微电子有限公司参与招投标项目161次,财产线索方面有商标信息6条,专利信息221条,此外企业还拥有行政许可3个。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
来源:市场资讯