一种基于存内计算电路的卷积神经网络量化方法

本发明公开一种基于存内计算电路的卷积神经网络量化方法，属于卷积神经网络量化领域。用卷积神经网络针对卷积层的激活值、权重，设计量化网络模型；挑选1000个样本作为量化数据集，50个样本为一组，分成20组；计算权重量化系数，固定到量化网络模型中；计算激活值量化系数；根据存内计算电路数据流过程，设计计算ivc系数的量化网络模型，选100个样本为量化样本，计算ivc系数；将卷积层权重、偏移量转化为整数形式，ivc系数映射为电路中电阻的电导值，卷积层激活值和权重量化系数、ivc系数以及下一层卷积激活值量化系数进行融合，并转化成a*2b形式，设计量化后卷积网络在存内计算电路推理网络模型，实现卷积神经网络在存内计算电路的量化部署。