本文源自:金融界
金融界2024年12月2日消息，国家知识产权局信息显示，广电运通集团股份有限公司申请一项名为“文本数据的推理方法、装置、电子设备及存储介质”的专利，公开号 CN 119047572 A，申请日期为 2024 年 7 月。
专利摘要显示，本申请公开
了一种文本数据的推理
方法、装置、电子设备及
存储介质，包括：获取用
户输入的给定文本数据
对应的先知令牌序列；将
先知令牌序列输入大语
言模型得到第一部分回
复令牌序列，并将第一部
分回复令牌序列与先知令牌序列合并得到中间令牌序列输入
多个小语言模型，基于各小语言模型每次推理得到第二部分回
复令牌序列的各个先验回复令牌及各个回复令牌的先验概率；
将验证令牌序列并行输入到大语言模型得到各验证令牌序列
的后验概率以及各后验概率对应的后验回复令牌；根据各先验
概率和各后验概率的验证结果使用后验回复令牌更新第二部
分回复令牌序列，得到更新后的第二部分回复令牌序列；输出
全部回复令牌序列，从而提升推理精度和效率。
