广州壁仞申请算子融合方法专利,大幅提高人工智能模型训练推理效率

广州壁仞申请算子融合方法专利,大幅提高人工智能模型训练推理效率
2024年11月27日 20:36 金融界网站

本文源自:金融界

金融界2024年11月27日消息,国家知识产权局信息显示,广州壁仞集成电路有限公司申请一项名为“算子融合方法装置电子设备及存储介质”的专利,公开号CN 119026084 A,申请日期为2024年9月。

专利摘要显示,本发明提供一种算子融合方法、装置、电子设备及存储介质,其中算子融合方法包括:响应于算子融合请求,从多个上下文程序中确定多个目标上下文程序分别为待融合算子;基于多个待融合算子对应的预设同步指令组,实现多个待融合算子的融合过程。本发明只需通过对人工智能芯片内已开发的上下文程序添加同步指令的方式进行少量修改,即可实现不同算子组合之间的算子融合目的,无需依赖开发人员专门开发融合后的算子,算子融合过程中也无需使用编译器,整个算子融合过程简单且易实现,也适用于人工智能领域中不同算子组合的算子融合场景,从而大幅提高了人工智能模型在人工智能芯片上的训练效率及推理效率,同时也提高了算子融合的通用性。

财经自媒体联盟更多自媒体作者

新浪首页 语音播报 相关新闻 返回顶部