张量布局优化方法、电子设备和存储介质

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
张量布局优化方法、电子设备和存储介质
申请号:CN202511453883
申请日期:2025-10-13
公开号:CN120929277B
公开日期:2025-12-23
类型:发明专利
摘要
本发明涉及人工智能技术领域,提供一种张量布局优化方法、电子设备和存储介质,其中方法包括:获取计算图中的目标操作;基于计算图,获取与目标操作存在数据依赖关系的所有关联操作,并在各关联操作均满足第二预设条件的情况下,确定包括目标操作和各关联操作的数据流为待优化数据流;基于计算硬件的访存通道特性,创建目标布局编码,目标布局编码用于将一个线程束划分为至少两个线程组,以使不同的线程组对计算硬件的访存通道进行分时复用;基于目标布局编码,更新待优化数据流中各操作所关联的张量的内存布局。本发明针对特定架构的硬件特性,通过优化张量的内存布局,分时复用访存通道,显著提升了内存带宽利用率和访存性能。
技术关键词
布局优化方法 数据依赖关系 编码 内存 非暂态计算机可读存储介质 电子设备 通道 人工智能技术 处理器 重构 存储器 逻辑 元素 定义