大模型隐私安全和公平性有“跷跷板”效应，最佳平衡法则刚刚找到 | 人大&上海AI Lab
大模型隐私安全和公平性有“跷跷板”效应，最佳平衡法则刚刚找到 | 人大&上海AI Lab大模型伦理竟然无法对齐？
来自主题: AI技术研报
7749 点击 2025-07-28 11:14
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
大模型伦理竟然无法对齐？
本文由上海 AI Lab 和北京航空航天大学联合完成。 主要作者包括上海 AI Lab 和上交大联培博士生卢晓雅、北航博士生陈泽人、上海 AI Lab 和复旦联培博士生胡栩浩（共同一作）等。
在首次中国演讲中，AI教父Hinton于WAIC2025上探讨数字智能与生物智能的差异，指出AI因具备永生与高效共享而快速超越人脑。他警示若无全球安全协作，超级智能或将反噬人类。Hinton提出通过AI安全研究所联盟与技术栈分离，推动AI向善发展。
扩散语言模型（Diffusion-based LLMs，简称 dLLMs）以其并行解码、双向上下文建模、灵活插入masked token进行解码的特性，成为一个重要的发展方向。
英伟达GPU，被白帽黑客发现了严重漏洞。
你是否也曾担心过，随手发给 AI 助手的一份代码或报告，会让你成为下一个泄密新闻的主角？又或是你在网上发布的一张画作，会被各种绘画 AI 批量模仿并用于商业盈利？
难得难得，几大AI巨头不竞争了不抢人了，改联合一起发研究了。
跟大家汇报一下！ 最近，在联合国于日内瓦召开的全球AI for Good（人工智能向善）峰会上，我们受邀分享了在金融风控场景中对抗“深度伪造”的最新技术成果。
华南理工大学计算机学院AI安全团队长期深耕于人工智能安全，近期联合约翰霍普金斯大学和加州大学圣地亚戈分校聚焦于联邦学习中防范恶意投毒攻击，产出工作连续发表于AI顶刊TPAMI 2025和网络安全顶刊TIFS 2025。
所有使用MCP协议的企业注意：你的数据库可能正在“裸奔”！