一种图神经网络蒸馏方法、系统、设备及介质

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种图神经网络蒸馏方法、系统、设备及介质
申请号:CN202411738171
申请日期:2024-11-29
公开号:CN119670846A
公开日期:2025-03-21
类型:发明专利
摘要
本发明公开一种图神经网络蒸馏方法、系统、设备及介质,涉及边缘部署技术领域,该方法包括:在图神经网络教师模型与学生模型之间引入盒式特征聚合特征提取模块,通过盒式特征聚合特征提取模块提取并聚合图神经网络模型中多个尺度的图结构信息,得到盒聚集损失,再基于盒聚集损失与学生模型本身的预测损失形成的盒聚集蒸馏总损失训练该学生模型,使用训练完成的学生模型用于指定任务;该方法最大限度地减少中间层的特征差异,从而促进从教师模型中成功转移多尺度知识和深层结构知识。
技术关键词
蒸馏方法 神经网络模型 学生 输出特征 教师 盒子 特征提取模块 中间层 节点特征 BFS算法 广度优先搜索 可读存储介质 盒特征 蒸馏系统 邻居 处理器 计算机设备 超参数