OpenAI和Anthropic罕见合作！因为AI安全「分手」后，这次双方却因为安全合作：测试双方模型在幻觉等四大安全方面的具体表现。这场合作，不仅是技术碰撞，更是AI安全的里程碑，百万用户每天的互动，正推动安全边界不断扩展。
智东西8月26日报道，近日，美国浏览器公司Brave发布博客，称该公司在美国知名AI搜索独角兽Perplexity打造的AI浏览器Comet中发现了一个严重安全漏洞，攻击者可通过在网页中发布恶意指令，来操纵AI浏览器登录网站、访问邮箱、获取验证码，并将这些敏感信息发送给外部攻击者。全程耗时两分半，连普通人也能完成这种攻击。
近两年，AI的发展进入高速时代，产品层出不穷，更新速度惊人。从ChatGPT到DeepSeek，AI正逐渐渗透到所有人生活的方方面面。人们在享受AI带来的便利的同时，疑惑也层出不穷：AI会不会抢打工人的饭碗？老人和其他不太会使用AI工具的人会不会被社会淘汰？甚至还有终极的担忧——AI会不会发展到人类再也无法掌控的那一天？
AI 有意识吗？ 无论是古今中外的文艺作品中，还是 AI 迅猛发展的当下，好像都难以给出一个绝对的答案。
AI换脸技术已能成功骗过部分人脸识别系统，用于实施金融诈骗（如盗号改法人、盗刷账户）。人脸识别存在安全漏洞，2D识别易被照片/视频破解，3D识别也可能被伪造数据欺骗。黑产已形成相关产业链，国家与技术公司正加强防御，但用户需提高警惕，谨慎使用人脸识别。
我们需要「AI母亲」，而非「AI助手」！在Ai4 2025大会上，「AI教父」再次表达了他对AI安全的担忧。他警告说人类要继续控制AI是虚幻的希望，并提出与之相反的有趣视角：为AI建立「母性本能」。
Anthropic 已收购 Humanloop 的联合创始人和大部分团队成员，该公司是一个专注于提示管理、LLM 评估和可观测性的平台，此举旨在强化其企业战略。
一面是Meta豪掷143亿美元下注Scale AI，一面是OpenAI紧急切断合作——当全球目光聚焦硅谷之时，一家藏身首尔的初创公司悄然撕开了AI安全市场的裂口。
强化学习（RL）是锻造当今顶尖大模型（如 OpenAI o 系列、DeepSeek-R1、Gemini 2.5、Grok 4、GPT-5）推理能力与对齐的核心 “武器”，但它也像一把双刃剑，常常导致模型行为脆弱、风格突变，甚至出现 “欺骗性对齐”、“失控” 等危险倾向。
危险！ChatGPT存在“零点击攻击”安全问题。 用户无需点击，攻击者也能从ChatGPT连接的第三方应用窃取敏感数据，甚至窃取API密钥。
