应用于量化神经网络卷积层的可变精度计算单元的设计方法及使用方法

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
应用于量化神经网络卷积层的可变精度计算单元的设计方法及使用方法
申请号:CN202511384289
申请日期:2025-09-26
公开号:CN120874928B
公开日期:2025-12-16
类型:发明专利
摘要
本发明提供一种应用于量化神经网络卷积层的可变精度计算单元的设计方法及使用方法,对精度为1的向量进行移位运算,确定运算基本块的移位位数、维度和数量。排布运算基本块后用加法树连接构成阵列,得到可变精度的融合计算单元。据当前卷积层激活值与权重值的实际精度,配置可变精度融合计算单元阵列,各列融合计算单元并行计算;当前卷积层运算完毕后,根据下一层卷积层的数据精度,重新配置该二维阵列以此类推完成所有卷积层的运算。解决现有技术中运算单元在小于4比特的卷积运算中易造成计算资源的浪费的问题,无法灵活的根据卷积层的实际情况动态采用不同的量化位宽来处理数据,提升资源利用率及计算效率的问题。
技术关键词
精度 卷积层运算 处理单元 阵列结构 输出特征 比特流 特征值 物理 分片 数据 逻辑 算法 动态 资源