本文源自:金融界
金融界2024年11月30日消息,国家知识产权局信息显示,深圳鲲云信息科技有限公司申请一项名为“优化人工智能芯片并行计算中数据存取的方法及人工智能芯片”的专利,公开号 CN 119045783 A,申请日期为2024年10月。
专利摘要显示,本发明提供一种优化人工智能芯片并行计算中数据存取的方法及人工智能芯片。所述方法包括:确定人工智能芯片的计算并行度;获取用于所述人工智能芯片并行计算的第一两维数据,所述第一两维数据符合第二维度乘以第一整数为所述计算并行度、第一维度除以所述第一整数为所述计算并行度的第二整数倍,所述第一整数大于等于1;在所述人工智能芯片内部对所述第一两维数据执行预处理操作,所述预处理操作包括变形操作和转置操作的组合,将所述第一两维数据转置为符合并行度要求的数据。根据本发明的技术方案能够减少模型在芯片上的推理耗时,增加人工智能芯片的利用率。
4000520066 欢迎批评指正
Copyright © 1996-2019 SINA Corporation
All Rights Reserved 新浪公司 版权所有
All Rights Reserved 新浪公司 版权所有