武汉理工数字传播申请基于大语言模型的词嵌入向量提取专利，增强全局上下文语义捕捉能力
创始人
2025-06-28 20:07:53
0次
金融界2025年6月28日消息，国家知识产权局信息显示，武汉理工数字传播工程有限公司申请一项名为“一种基于大语言模型的词嵌入向量提取方法及系统”的专利，公开号CN120218061A，申请日期为2025年03月。
专利摘要显示，本发明公开了一种基于大语言模型的词嵌入向量提取方法及系统，属于自然语言处理领域，一种基于大语言模型的词嵌入向量提取方法包括以下步骤：S1.嵌入全局上下文注意力模块，通过线性变换生成Q/K/V向量，跨位置计算全局注意力权重；S2.拼接相邻层编码特征，门控融合生成全局上下文动态语义状态；S3.多头注意力联合编码当前层与全局动态语义状态；S4.平均池化生成全局语义向量，计算动态注意力权重；S5.动态权重与全局向量加权融合生成增强型编码；S6.GELU非线性变换全连接层输出最终词向量；有益效果包括增强全局上下文语义捕捉能力，提升词嵌入向量的表达效果。
天眼查资料显示，武汉理工数字传播工程有限公司，成立于2014年，位于武汉市，是一家以从事软件和信息技术服务业为主的企业。企业注册资本6311.19572万人民币。通过天眼查大数据分析，武汉理工数字传播工程有限公司共对外投资了16家企业，参与招投标项目25次，财产线索方面有商标信息120条，专利信息72条，此外企业还拥有行政许可5个。
来源：金融界
相关内容
热门资讯
吉尚亿电子申请基于智能传感器的...
金融界2025年6月28日消息，国家知识产权局信息显示，东莞市吉尚亿电子有限公司申请一项名为“一种基...
荣耀申请电子设备专利，提高补光...
金融界2025年6月28日消息，国家知识产权局信息显示，荣耀终端股份有限公司申请一项名为“电子设备”...
龙净环保中标结果：1号2号机组...
证券之星消息，根据天眼查APP信息整理，6月27日公布的《1号2号机组电除尘及电源优化改造中标结果公...
凯发电气中标结果：中国铁路北京...
证券之星消息，根据天眼查APP信息整理，6月28日公布的《中国铁路北京局集团有限公司 衡水供电段保护...
武汉理工数字传播申请基于大语言...
金融界2025年6月28日消息，国家知识产权局信息显示，武汉理工数字传播工程有限公司申请一项名为“一...
5年了!西媒：巴萨结清梅西、布...
直播吧06月28日讯 据加泰罗尼亚当地媒体Crónica Global报道，巴萨即将结清梅西等19名...
广东迅扬科技取得计算机电源模块...
金融界2025年6月28日消息，国家知识产权局信息显示，广东迅扬科技股份有限公司取得一项名为“一种计...
独家｜风暴后的罗马仕：遭深圳监...
图源：视觉中国 蓝鲸新闻6月28日讯（记者 翟智超）6月25日，深圳宝安机场安检口出现颇具戏剧性的一...
丹华昊博申请小电流接地系统单相...
金融界2025年6月28日消息，国家知识产权局信息显示，北京丹华昊博电力科技有限公司申请一项名为“小...
奇瑞汽车申请自动化测试CAN网...
金融界2025年6月28日消息，国家知识产权局信息显示，奇瑞汽车股份有限公司申请一项名为“自动化测试...