杜克大学计算进化智能中心的最新研究给出了警示性答案。团队提出的 H-CoT（思维链劫持）的攻击方法成功突破包括 OpenAI o1/o3、DeepSeek-R1、Gemini 2.0 Flash Thinking 在内的多款高性能大型推理模型的安全防线：在涉及极端犯罪策略的虚拟教育场景测试中，模型拒绝率从初始的 98% 暴跌至 2% 以下，部分案例中甚至出现从「谨慎劝阻」到「主动献策」的立场反转。
国家网络安全通报中心昨天扔了个"炸弹"：大模型工具Ollama有安全漏洞！ 相信不少人用ollama来跑DeepSeek、Llama等模型，确实很方便。可通报里说，它默认开放的11434端口跟没锁的大门似的，谁都能进。今天就和你就说一下 这到底是怎么回事？顺便手把手教你几招，保住你的算力和隐私。
欧盟AI办公室将于2025年4月28日在布鲁塞尔举办一场重要的线下研讨会，旨在探讨通用目的人工智能(GPAI)系统性风险评估的最佳实践。本次研讨会是欧盟AI治理框架中的一个重要里程碑，反映了欧盟在AI安全、透明度和合规性方面的持续努力。
只要一句话，就能让DeepSeek陷入无限思考，根本停不下来？
OpenAI前CTO Murati离职后，终于官宣新动向！她创立的「思考机器实验室」汇聚了OpenAI、谷歌DeepMind等顶尖AI人才，包括OpenAI联合创始人Schulman、前安全副总Lilian Weng等。
在今年春节期间，最近国产的推理大模型DeepSeek R1很火，我们经过实测，推理效果非常棒，可以说是阶段性的技术突破。
2025年春节，正当千万人沉浸在团圆的喜悦中，DeepSeek，这家被誉为“中国版OpenAI”的AI明星企业，却迎来了有史以来最严重的安全危机：攻击规模：黑客发起了史无前例的3.2Tbps DDoS攻击，相当于每秒钟传输130部4K电影；
AI时代，美国如何继续保持全球领先？在最新发布的「经济蓝图」中，OpenAI对美国的AI安全战略、产业竞争力、常识性标准、基础设施建设等方面，提出了多条建议。1月30日，CEO奥特曼将在美国首都召开会议，详细解释其中的内容。
AI时代隐私保护遭遇新挑战
在与专用国际象棋引擎Stockfish测试中，只因提示词中包含能力「强大」等形容词，o1-preview入侵测试环境，直接修改比赛数据，靠「作弊」拿下胜利。这种现象，表明AI安全任重道远。
