武汉理工数字传播申请基于大语言模型的词嵌入向量提取专利，增强全局上下文语义捕捉能力
创始人
2025-06-28 20:07:53
0次
金融界2025年6月28日消息，国家知识产权局信息显示，武汉理工数字传播工程有限公司申请一项名为“一种基于大语言模型的词嵌入向量提取方法及系统”的专利，公开号CN120218061A，申请日期为2025年03月。
专利摘要显示，本发明公开了一种基于大语言模型的词嵌入向量提取方法及系统，属于自然语言处理领域，一种基于大语言模型的词嵌入向量提取方法包括以下步骤：S1.嵌入全局上下文注意力模块，通过线性变换生成Q/K/V向量，跨位置计算全局注意力权重；S2.拼接相邻层编码特征，门控融合生成全局上下文动态语义状态；S3.多头注意力联合编码当前层与全局动态语义状态；S4.平均池化生成全局语义向量，计算动态注意力权重；S5.动态权重与全局向量加权融合生成增强型编码；S6.GELU非线性变换全连接层输出最终词向量；有益效果包括增强全局上下文语义捕捉能力，提升词嵌入向量的表达效果。
天眼查资料显示，武汉理工数字传播工程有限公司，成立于2014年，位于武汉市，是一家以从事软件和信息技术服务业为主的企业。企业注册资本6311.19572万人民币。通过天眼查大数据分析，武汉理工数字传播工程有限公司共对外投资了16家企业，参与招投标项目25次，财产线索方面有商标信息120条，专利信息72条，此外企业还拥有行政许可5个。
来源：金融界
相关内容
热门资讯
比亚迪申请电子驻车制动系统专利...
国家知识产权局信息显示，比亚迪股份有限公司申请一项名为“一种电子驻车制动系统、控制方法、电子设备和车...
杭州亚太智能装备申请带挡吸焊渣...
国家知识产权局信息显示，杭州亚太智能装备有限公司申请一项名为“一种带挡吸焊渣功能的电阻焊装置”的专利...
股市必读：生益电子（68818...
截至2026年5月15日收盘，生益电子(688183)报收于97.61元，下跌3.46%，换手率2....
股市必读：积成电子（00233...
截至2026年5月15日收盘，积成电子(002339)报收于9.67元，下跌2.72%，换手率4.9...
CNC机床必备：东莞永盛电气解...
《精密加工的灵魂伴侣：深度剖析三相稳压器对CNC机床精度与寿命的影响》 第一部分：精密制造的苛...
国内大功率半导体“第一股”台基...
极目新闻记者 赵贝 通讯员 张晶 曾杰 王斌 5月16日，湖北省功率半导体产业发展大会暨台基股份六十...
全球最大对冲基金调仓：大举加仓...
美东时间周五，全球最大对冲基金桥水基金公布了截至今年3月底的美股一季度持仓报告（13F）。 报告显示...
15家车企掀起涨价潮，最高涨幅...
红星资本局5月17日消息，从今年第二季度开始，一场覆盖传统车企与新势力车企的涨价潮来袭。受存储芯片及...
女子体验瀑布秋千坠亡，官方披露...
据CCTV法治在线5月17日报道，四川华蓥公布大摆荡游客坠亡事件调查最新进展。 5月3日，四川华蓥玛...