武汉理工数字传播申请基于大语言模型的词嵌入向量提取专利，增强全局上下文语义捕捉能力
创始人
2025-06-28 20:07:53
0次
金融界2025年6月28日消息，国家知识产权局信息显示，武汉理工数字传播工程有限公司申请一项名为“一种基于大语言模型的词嵌入向量提取方法及系统”的专利，公开号CN120218061A，申请日期为2025年03月。
专利摘要显示，本发明公开了一种基于大语言模型的词嵌入向量提取方法及系统，属于自然语言处理领域，一种基于大语言模型的词嵌入向量提取方法包括以下步骤：S1.嵌入全局上下文注意力模块，通过线性变换生成Q/K/V向量，跨位置计算全局注意力权重；S2.拼接相邻层编码特征，门控融合生成全局上下文动态语义状态；S3.多头注意力联合编码当前层与全局动态语义状态；S4.平均池化生成全局语义向量，计算动态注意力权重；S5.动态权重与全局向量加权融合生成增强型编码；S6.GELU非线性变换全连接层输出最终词向量；有益效果包括增强全局上下文语义捕捉能力，提升词嵌入向量的表达效果。
天眼查资料显示，武汉理工数字传播工程有限公司，成立于2014年，位于武汉市，是一家以从事软件和信息技术服务业为主的企业。企业注册资本6311.19572万人民币。通过天眼查大数据分析，武汉理工数字传播工程有限公司共对外投资了16家企业，参与招投标项目25次，财产线索方面有商标信息120条，专利信息72条，此外企业还拥有行政许可5个。
来源：金融界
相关内容
热门资讯
中芯集成电路申请滤波器及其形成...
国家知识产权局信息显示，中芯集成电路（宁波）有限公司申请一项名为“滤波器及其形成方法、以及电子设备”...
北元电器申请电动操作机构及隔离...
国家知识产权局信息显示，北京北元电器有限公司申请一项名为“一种电动操作机构及隔离开关”的专利，公开号...
爱思开海力士申请具有电力分布层...
国家知识产权局信息显示，爱思开海力士有限公司申请一项名为“具有电力分布层的半导体装置”的专利，公开号...
芯片基金：1月9日融资买入91...
证券之星消息，1月9日，芯片基金（159801）融资买入919.46万元，融资偿还1126.63万元...
联合光电：1月9日融资买入12...
证券之星消息，1月9日，联合光电（300691）融资买入1262.12万元，融资偿还1361.28万...
国鲸合创申请微型发光二极管显示...
国家知识产权局信息显示，国鲸合创（青岛）科技有限公司申请一项名为“一种微型发光二极管显示面板及其形成...
诺兰特移动通信配件申请模内电子...
国家知识产权局信息显示，诺兰特移动通信配件（北京）有限公司申请一项名为“模内电子部件”的专利，公开号...
福善达取得带温度信号反馈的欧标...
国家知识产权局信息显示，江苏福善达新能源科技有限公司取得一项名为“带温度信号反馈的欧标工业充电电源线...
诠泰智能取得多工位电源底座组装...
国家知识产权局信息显示，苏州诠泰智能装备有限公司取得一项名为“一种多工位电源底座组装线”的专利，授权...