一种内容审核方法、系统、设备及介质

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种内容审核方法、系统、设备及介质
申请号:CN202411596874
申请日期:2024-11-11
公开号:CN119167933B
公开日期:2025-03-07
类型:发明专利
摘要
本申请公开了一种内容审核方法、系统、设备及介质,所述方法包括接收用户输入的被检测文档,并对被检测文档进行多级敏感词检测;若所述被检测文档的多级敏感词检测通过,将所述被检测文档输入经过训练的安全意图分类模型,通过所述安全意图分类模型输出所述被检测文档的意图类别;当所述意图类别为非敏感意图时,获取所述被检测文档对应的业务数据,并对所述业务数据进行多级敏感词检测;若所述业务数据的多级敏感词检测通过,判定为内容审核通过。本申请先通过多级敏感词检测对被检测文档进行敏感词检测,然后再通过安全意图分类模型对被检测文档进行意图检测,这样通过递增式检测可以提高内容审核的准确性,进而可以减少误判和漏判的问题。
技术关键词
内容审核方法 意图分类模型 意图类别 词语 内容审核系统 计算机可读程序 训练样本数据 可读存储介质 处理器 模块 分词 会话 队列 终端设备 存储器 标签
系统为您推荐了相关专利信息
记忆 特征提取模块 多层次 子模块 意图分类模型
智能信息处理终端 文本匹配方法 语义特征提取 指令 智能交互模块
术语 智能生成方法 短语结构 文本处理方法 词典
构建知识图谱 小规模 文本 人工智能大数据 实体
数据生成模型 平台子系统 客服 自然语言 生成结构化数据