金融界2025年7月18日消息,国家知识产权局信息显示,北京字跳网络技术有限公司申请一项名为“一种语言模型训练方法、语言模型推理方法及相关装置”的专利,公开号CN120338104A,申请日期为2025年03月。
专利摘要显示,本申请提供了一种语言模型训练方法、语言模型推理方法及相关装置,该方法包括:获取至少一个对象属性;针对至少一个对象属性中的每个对象属性,执行以下步骤:构造至少一个决策树;其中,决策树的叶节点衡量该对象属性的属性值;将包括该对象属性以及该对象属性的属性值的文本作为训练数据,对第一语言模型进行预训练,确定至少一个决策树的叶节点对应的嵌入向量。在该方法中,利用决策树表示该对象属性下的不同对象属性值与对应的嵌入向量在语言模型的输入层所在位置之间的关系,同一对象属性值出现在不同对象属性中有不同的嵌入向量,使得嵌入向量更能够表征在特定对象属性中的特定含义。
天眼查资料显示,北京字跳网络技术有限公司,成立于2018年,位于北京市,是一家以从事软件和信息技术服务业为主的企业。企业注册资本10000万美元。通过天眼查大数据分析,北京字跳网络技术有限公司共对外投资了17家企业,参与招投标项目65次,财产线索方面有商标信息5000条,专利信息5000条,此外企业还拥有行政许可30个。
来源:金融界