一种基于图像分类模型的黑盒对抗鲁棒性评估方法

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种基于图像分类模型的黑盒对抗鲁棒性评估方法
申请号:CN202411490660
申请日期:2024-10-24
公开号:CN119360161B
公开日期:2025-10-21
类型:发明专利
摘要
本发明属于智能安全领域,具体涉及一种基于图像分类模型的黑盒对抗鲁棒性评估方法;包括:采用图像分类模型对不同类别的图像进行分类处理,得到多个不同类别的图像样本集;对多个不同类别的图像样本集进行处理,得到决策边界图像样本集合;将决策边界图像样本集合转换为决策边界图像样本矩阵;对决策边界图像样本矩阵进行奇异值分解,得到决策边界图像样本矩阵的奇异值;根据奇异值计算得到决策边界复杂度;对决策边界复杂度进行归一化处理,得到鲁棒性评估指标;根据鲁棒性评估指标对图像分类模型进行鲁棒性评估,得到图像分类模型的鲁棒性评估结果;本发明无需目标模型的结构和参数信息,大大提高了图像分类模型对抗鲁棒性评估过程的安全性。
技术关键词
图像分类模型 决策 鲁棒性评估方法 样本 矩阵 复杂度 指标 像素 图像类别 数据 数值 表达式 元素 策略