矩阵乘的流水计算方法、装置、AI芯片、电子设备及介质
申请号:CN202510080918
申请日期:2025-01-17
公开号:CN119988808A
公开日期:2025-05-13
类型:发明专利
摘要
本公开提供了一种矩阵乘的流水计算方法、装置、AI芯片、电子设备、介质及程序产品,涉及人工智能领域,尤其涉及芯片领域。具体实现方案为:响应于矩阵乘请求,并行触发芯片内多个通用计算部件和多个专用计算部件,在各转换轮次下,通用计算部件从第一矩阵和第二矩阵中获取转换所需的各矩阵元素类型,并标识转换完成状态;专用计算部件在各计算轮次下,在查询到当前计算轮次所需计算的各转换矩阵元素完成转换时,从匹配的通用计算部件中获取各转换矩阵元素执行矩阵乘计算。并行执行通用计算部件和专用计算部件,使得数据类型转换的耗时和矩阵乘的耗时可以相互掩盖,充分发挥专用计算部件的性能,提升矩阵乘计算的效率和AI芯片的性能。
技术关键词
矩阵
分块策略
计数器
元素
数值
芯片
标识
尺寸
参数
模块
计算方法
速度
流水
电子设备
数据
计算机程序产品
场景
可读存储介质