分布式系统的代价评估方法、装置、设备、介质及产品

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
分布式系统的代价评估方法、装置、设备、介质及产品
申请号:CN202411546260
申请日期:2024-11-01
公开号:CN119046124B
公开日期:2025-02-11
类型:发明专利
摘要
本发明公开了一种分布式系统的代价评估方法、装置、设备、介质及产品。方法包括:获取目标大模型的原始计算图和将目标大模型部署在目标分布式集群时使用的目标分布式并行方案;按照目标分布式并行方案对原始计算图进行切分得到单设备计算图;根据单设备计算图中算子的标注信息和目标分布式集群的架构信息,确定单卡计算图中算子的算子级代价;根据算子级代价计算设备级代价,并将各设备级代价按照各分布式策略进行组合,得到集群级代价;根据算子级、设备级和集群级代价,获取按照目标分布式并行方案将目标大模型部署在目标分布式集群时的系统性能分析结果。本发明实施例的技术方案可以高效、准确的评估出分布式建模过程中的系统性能分析结果。
技术关键词
系统性能分析 分布式策略 代价评估方法 分布式系统 可视化图表 集群通信 计算机程序产品 IO密集型 处理器 系统级芯片 数据项 人机交互界面 可读存储介质 流水 仿真数据 评估装置 电子设备