一种用于加速AI数据处理的多阶段缓存方法

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种用于加速AI数据处理的多阶段缓存方法
申请号:CN202510228500
申请日期:2025-02-28
公开号:CN119782008B
公开日期:2025-05-30
类型:发明专利
摘要
本发明公开了一种用于加速AI数据处理的多阶段缓存方法,属于人工智能数据处理技术领域,具体包括:创建数据处理流水线,插入缓存操作并标记位置,设置缓存客户端、缓存服务器和共享空间,缓存客户端与数据处理流水线交互,缓存服务器存储缓存数据集,缓存客户端与缓存服务器使用gRPC框架进行数据传输,将数据处理流水线转化为图结构并验证,对图结构进行转换,生成执行图并优化算子,数据处理流水线按照执行图进行数据处理,并通过调用缓存客户端与缓存服务器进行通信,执行缓存数据集的写入和读取操作,本发明能够提高AI数据处理速度。
技术关键词
数据处理流水线 缓存服务器 缓存方法 客户端 节点 采样器 队列 人工智能数据处理技术 内存 阶段 数据处理路径 后续数据处理 标记 数据存储 框架 对象 取样器 批量 变量