学习场景下的大模型敏感大内容过滤方法

本申请公开了一种学习场景下的大模型敏感大内容过滤方法，其通过采用基于深度学习的神经网络模型从用户输入的学习问题中提取学习问题的图像端视觉编码特征和文本端语义编码特征，进一步对两者进行多模态特征融合以形成更为全面、精准的问题联合表示，该联合表示能够充分挖掘文字与图片之间的深层联系，从而有效识别复杂输入中的敏感或不适当内容，实现对复合型学习问题的自动化、智能化过滤。本申请解决了传统单一模态过滤方案覆盖面窄、检测准确率低及人工审核效率低下等难题，提升了平台对敏感内容的识别能力，进而为智能教育平台提供了坚实可靠的安全保障。