本文源自:金融界
金融界2024年11月11日消息，国家知识产权局信息显示，江苏云从曦和人工智能有限公司申请一项名为“大模型的敏感信息处理方法、计算机设备及存储介质”的专利，公开号 CN 118916455 A，申请日期为2024年7月。
专利摘要显示，本申请涉及数据处理技术领域，具体提供一种大模型的敏感信息处理方法、计算机设备及存储介质，旨在解决大模型对用户问题进行回答时可能涉及敏感信息的问题。为此目的，本申请提供的一种大模型的敏感信息处理方法，包括：获取问题文本；将问题文本输入大模型进行推理，实时获取大模型生成的流式的答案文本，并缓存答案文本；获取答案文本的字数信息；基于答案文本的字数信息，对答案文本进行敏感词校验，敏感词校验包括常规校验或分段校验；基于答案文本的敏感词校验结果，输出答案文本。本申请能够对大模型涉及敏感信息的内容进行处理，增强输出内容的安全性和规范性，从而进一步提升大模型的整体输出质量。
