本文源自:金融界
金融界2024年11月28日消息，国家知识产权局信息显示，深圳泰豪信息技术有限公司申请一项名为“一种基于改进Transformer的手机交互方法”的专利，公开号CN 119028339 A，申请日期为2024年7月。
专利摘要显示，本发明涉及人工智能技术领域，特别是涉及一种基于改进Transformer的手机交互方法，该方法中改进Transformer网络结构包括了输入嵌入、前置卷积、多头自注意力、前馈网络、交叉注意力、门控机制和输出层。上下文感知能力增强，这种增强的上下文感知能力使得模型在处理多轮对话时表现更为出色，能够准确捕捉用户意图和语义变化，从而提供更为自然和流畅的交互体验。局部特征提取能力提升，在输入嵌入层之后添加前置卷积层，有效提取了语音信号的局部特征。通过在自注意力和前馈网络之间引入门控机制，模型具备了动态调整信息流的能力。提高了对关键信息的选择性处理能力，减少无关或冗余信息对模型的干扰，进一步提升了交互系统的精确性和响应速度。
