马斯克麾下的新AI虚拟女友Ani看似风光地上线，背后却被曝出员工被迫提供面容和声音等生物数据用于训练。这一做法在xAI公司内部引发争议，多名员工担心自己的相貌和声音可能被滥用于深度伪造，或在未授权情况下被他人使用。此事也让业界反思，在AI竞赛中冲锋陷阵的公司，是否正在以侵犯隐私和道德边界为代价换取技术进步。
随着生成式 AI（如 Sora）的发展，合成视频几乎可以以假乱真，带来了深度伪造与虚假信息传播的风险。现有检测方法多依赖表层伪影或数据驱动学习，难以在高质量生成视频中保持较好的泛化能力。其根本原因在于，这些方法大都未能充分利用自然视频所遵循的物理规律，挖掘自然视频的更本质的特征。
该论文提出 FractalForensics，一种基于分形水印的主动深度伪造检测与定位方法。不同于以往的水印向量，为达成伪造定位的功能，论文提出的水印以矩阵形式出现。
一年前，X 还深陷泰勒·斯威夫特的深度伪造（Deepfake）不雅照风波中。一年后，它的老板马斯克，亲自为用户送来了生产这些「不雅照」的工具，并大肆宣传。xAI 的新功能 Grok Imagine，提供了一个名为「Spicy」的火辣模式，被媒体证实可以一键生成名人的部分裸露视频。
跟大家汇报一下！ 最近，在联合国于日内瓦召开的全球AI for Good（人工智能向善）峰会上，我们受邀分享了在金融风控场景中对抗“深度伪造”的最新技术成果。
上周，韩国娱乐公司HYBE宣布，将与京畿北道警察局（NGPPA）合作，共同打击以HYBE艺人为对象的深度伪造（Deepfake）内容。HYBE与NGPPA签署了一份协议，明确了合作细节，包括加快相关案件的调查进程，并在韩国设立举报热线，方便公众报告相关犯罪活动。同时，HYBE也宣布加强对深度伪造内容的监控和处理，尤其是在色情内容方面，将专门设立响应机制，尽快采取行动。
基于深度神经网络对人脸图像进行编辑和篡改，深度伪造的发展为人们的生活带来了便利，但对其错误的应用也同时危害着人们的隐私和信息安全。
该论文作者来自复旦大学、中电金信及上海智能视觉计算协同创新中心团队，论文已被多媒体领域顶级国际会议 ACM MultiMedia 2024 接收，并将在该大会上进行口头报告（Oral 接收率仅 3.97%）。
AI马斯克泛滥背后的攻防战
Deepfake（深度伪造），再度深陷舆论的风波。
