国内首个生成式AI安全指导性文件明确31种风险，建语料数据黑名单
国内首个生成式AI安全指导性文件明确31种风险，建语料数据黑名单征求意见稿首次提出生成式AI服务提供者需遵循的安全基本要求，涉及语料安全、模型安全、安全措施、安全评估等方面，给出了语料及生成内容的主要安全风险共5类31种。
来自主题: AI监管政策
11354 点击 2023-10-13 10:33
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
征求意见稿首次提出生成式AI服务提供者需遵循的安全基本要求，涉及语料安全、模型安全、安全措施、安全评估等方面，给出了语料及生成内容的主要安全风险共5类31种。
人工智能价值对齐（AI alignment）是关涉AI控制与AI安全的重要问题，随着人工智能的飞速发展和广泛应用，人工智能可能带来的风险和挑战也日益凸显，由此，“价值对齐”问题开始被广泛讨论和提及。