确定AI模型的运行配置的方法、装置及相关设备

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
确定AI模型的运行配置的方法、装置及相关设备
申请号:CN202510574591
申请日期:2025-04-30
公开号:CN120670139A
公开日期:2025-09-19
类型:发明专利
摘要
一种确定AI模型的运行配置的方法、装置及相关设备,涉及人工智能技术领域。获取AI模型中每个子模型的搜索空间,搜索空间包括多种运行配置及基于每种运行配置运行子模型时的运行耗时,运行配置包括计算资源的数量及并行策略;获取计算资源的最大数量;根据每个子模型的搜索空间以及最大数量,为每个子模型选择目标运行配置,多个子模型的目标运行配置构成目标配置组合,其中,多个子模型的目标运行配置中的计算资源的总量小于等于最大数量,各个目标运行配置对应的运行耗时的总和最小。如此,在计算资源受限的情况下自动搜索出各子模型分配到的计算资源数量及所采用的并行策略,能够有效降低人力成本,保障AI模型的整体训练效率达到较高水平。
技术关键词
并行策略 资源分配 剪枝策略 人工智能AI模型 计算资源受限 模块 参数 人工智能技术 计算机程序产品 总量 可读存储介质 指令 关系 人力