武汉理工数字传播申请基于大语言模型的词嵌入向量提取专利，增强全局上下文语义捕捉能力
创始人
2025-06-28 20:07:53
0次
金融界2025年6月28日消息，国家知识产权局信息显示，武汉理工数字传播工程有限公司申请一项名为“一种基于大语言模型的词嵌入向量提取方法及系统”的专利，公开号CN120218061A，申请日期为2025年03月。
专利摘要显示，本发明公开了一种基于大语言模型的词嵌入向量提取方法及系统，属于自然语言处理领域，一种基于大语言模型的词嵌入向量提取方法包括以下步骤：S1.嵌入全局上下文注意力模块，通过线性变换生成Q/K/V向量，跨位置计算全局注意力权重；S2.拼接相邻层编码特征，门控融合生成全局上下文动态语义状态；S3.多头注意力联合编码当前层与全局动态语义状态；S4.平均池化生成全局语义向量，计算动态注意力权重；S5.动态权重与全局向量加权融合生成增强型编码；S6.GELU非线性变换全连接层输出最终词向量；有益效果包括增强全局上下文语义捕捉能力，提升词嵌入向量的表达效果。
天眼查资料显示，武汉理工数字传播工程有限公司，成立于2014年，位于武汉市，是一家以从事软件和信息技术服务业为主的企业。企业注册资本6311.19572万人民币。通过天眼查大数据分析，武汉理工数字传播工程有限公司共对外投资了16家企业，参与招投标项目25次，财产线索方面有商标信息120条，专利信息72条，此外企业还拥有行政许可5个。
来源：金融界
相关内容
热门资讯
汪涵现场读了省委书记的亲笔信
“我们的省委书记知道我这次要来，特地让我带了一封信，作为一个书记伯伯，他的一个诚意，读给现场的各位年...
中国电信获得发明专利授权：“一...
证券之星消息，根据天眼查APP数据显示中国电信（601728）新获得一项发明专利授权，专利名为“一种...
南京熊猫电子股份（00553....
证券之星消息，3月3日南向资金减持41.8万股南京熊猫电子股份（00553.HK）。近5个交易日中，...
平安银行获得发明专利授权：“应...
证券之星消息，根据天眼查APP数据显示平安银行（000001）新获得一项发明专利授权，专利名为“应用...
股市必读：蓝盾光电（30086...
截至2026年3月3日收盘，蓝盾光电(300862)报收于22.82元，下跌4.92%，换手率3.9...
股市必读：深南电路（00291...
截至2026年3月3日收盘，深南电路(002916)报收于270.95元，下跌6.49%，换手率1....
小米申请网络检测方法专利，提高...
国家知识产权局信息显示，北京小米移动软件有限公司申请一项名为“网络检测方法及装置、电子设备、存储介质...
直击MWC2026|存储涨价冲...
春节后首个行业大展MWC（世界移动通信大会）上，国内面板厂商展示了主推的新技术，将AI应用所需的低功...
原创 智...
2026年3月2日，也就是今年MWC开幕的第一天，高通便发布了多款消费级新品。其中，离普通消费者最“...
美国内存芯片公司股价在早盘交易...
每经AI快讯，3月3日，美光科技（Micron Technology）股价下跌8%，西部数据（Wes...