本文源自:金融界
金融界2024年12月5日消息,国家知识产权局信息显示,广州希姆半导体科技有限公司申请一项名为“一种获取深度网络最优并行计算策略的方法和装置”的专利,公开号 CN 119067188 A,申请日期为 2023 年 5 月。
专利摘要显示,本发明实施例公开了一种获取深度网络最优并行计算策略的方法和装置。本发明实施例根据深度学习模型计算图构建整体依赖树,其中,所述整体依赖树中任一树节点对应所述深度学习模型计算图的至少一个运算节点;获取所述整体依赖树中任一树节点为目标根节点,所述目标根节点和其子树节点构成目标依赖树;计算所述目标依赖树的最小的汇总再分发代价,其中,所述汇总再分发代价表征所述目标根节点对应的至少一个运算节点的张量拆 分策略的汇总再分发代价;将所述最小汇总再分发代价对应的张量拆分策略确定为所述目标根节点对应的至少一个运算节点的并行计算策略。通过上述方法,可以最小化运算过程中算子之间的汇总/再拆分代价。
4000520066 欢迎批评指正
Copyright © 1996-2019 SINA Corporation
All Rights Reserved 新浪公司 版权所有
All Rights Reserved 新浪公司 版权所有