本文源自:金融界
金融界2024年9月10日消息，天眼查知识产权信息显示，合肥君正科技有限公司申请一项名为“一种prelu和leaky_relu激活的量化实现方法“，公开号CN202310239020.3，申请日期为2023年3月。
专利摘要显示，本发明提出一种prelu和leaky_relu激活的量化实现方法，所述方法包括在卷积量化过程中，通过将32比特的卷积结果和量化参数进行相应计算得到8比特输出数据；将卷积的乘累加结果加上偏置bias后，通过激活函数映射得到最终卷积输出，对prelu和leaky_relu激活函数输出进行量化，需要提供正负半轴的量化参数，分别为positive_threshold和negative_threshold；所述prelu和leaky_relu激活函数公式为：其中x为激活函数输入，f（x）为激活函数输出，a为常数；当激活函数为prelu和leaky_relu时，需要进行两次NNA卷积量化过程，分别得到正负半轴的量化结果，再根据卷积乘累加结果和偏置bias相加后的结果W*X+B的正负选择相应的量化结果，得到最终的量化输出。提高卷积的运算速度。
