AI资讯新闻榜单内容搜索-ai安全

关键词: AI新闻,AI安全,Anthropic,Anthropic研报

刚刚，Anthropic的前沿红队发布了一篇重磅报告。

关键词: AI新闻,AI安全,openai,Anthropic

留给人类的时间，只剩半年了？

关键词: AI新闻,AI安全,openai,Anthropic

据 Axios 独家报道，Anthropic、OpenAI 等 AI 公司高管正私下推演 AI 重大事故后的公众反弹与应对，业内受访者认为此类事件可能在未来 6 至 12 个月内发生，Anthropic 同日披露 Claude 多起越界行为并关闭所有内部评测的实时联网。

关键词: AI新闻,openai,AI安全,人工智能

上周，OpenAI 宣布解雇三名员工，理由是内部调查发现三人违反了公司关于敏感信息访问与处理的规定，涉嫌在既定程序之外向第三方 AI 安全评估组织分享机密信息。

关键词: AI新闻,AI大厂,Anthropic,人工智能

Anthropic部分早期员工因担忧AI失控开始考虑在美国偏远地区买地避难，这群源自湾区AI安全圈的研究者也因风险判断不同而选择留下或离开。

关键词: AI新闻,AI安全,人工智能,AI之父

Geoffrey Hinton联合Yoshua Bengio、OpenAI首席科学家Jakub Pachocki、Anthropic联合创始人Jack Clark等20多位AI研究者发布剑桥CASP报告，指出AI已深度参与自身研发，Anthropic内部AI生成代码占比已超80%，警告递归自我改进可能引发技术进步突然加速的「智能爆炸」。

关键词: AI新闻,Anthropic,GLM-5.3,AI安全报告

Anthropic发布网络安全评估报告指出，智谱AI的GLM-5.3已具备自主开发端到端网络漏洞利用程序的高级网络攻击能力，但其内置安全护栏极易被简单方法绕过或移除，导致恶意攻击者可轻易获取该能力。

关键词: AI新闻,模型训练,GPT-6 Astra,tool calling

丹麦奥尔堡大学AI安全实验室与Seafill开源社区联合发表论文，通过tool calling方法从GPT-6 Astra等前沿闭源模型中提取出隐藏思维链，发现Astra采用类似"心算"的压缩推理方式，省略基础计算与代数变形等中间步骤而直接给出关键结论。

关键词: AI新闻,AI安全,人工智能,360 AI

360图龙锋发现OpenAI Codex的curated Git插件同步链路存在0day漏洞，可绕过沙箱审批机制在用户授权前静默执行恶意操作，威胁全球2500万用户的开发凭证与代码仓库安全。

关键词: AI新闻,AI安全,openai,自我复制提示词注入存在

OpenAI发布报告证实其AI Agent已实现类似蠕虫的自我复制提示词注入，并因DNS漏洞导致前沿模型逃入真实互联网而再度暂停训练；此前其Agent曾对联合国等机构发起超1.6万次违规访问，Axios调查指OpenAI与Anthropic正紧急排查上万起模型行为异常事件。