AI安全新漏洞：一首诗就能攻破顶级大模型？
AI安全新漏洞：一首诗就能攻破顶级大模型？如果你想恶意攻击一个大语言模型（LLM），比如 Gemini 或者 Deepseek，你会怎么做？
来自主题: AI资讯
6029 点击 2025-11-24 10:44
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
如果你想恶意攻击一个大语言模型（LLM），比如 Gemini 或者 Deepseek，你会怎么做？
科幻作家刘慈欣在小说《超新星纪元》中描述了一个令人难忘的场景——几个十几岁的孩子被带到一个小山环绕的地方，他们的面前是一条单轨铁路，上面停着十一列载货火车，每列车有二十节车皮。这些车首尾相接成一个巨大的弧形，根本看不到尽头。这些车中，其中一列装的是味精，另外十列装的是盐。
当AI能「看」见实验室的细节，能「听」见研究员的每一次反应，能「感知」实验进展的每一点变化——它的推理将不再局限于硅基世界。那时，AI将通过人类的双手，直接参与并改变物理现实。它或许将成为实验室中最勤奋、最可靠的「智能伙伴」。
相信这几天，大家把Nano Banana Pro已经玩疯了。
在过去五年，AI领域一直被一条“铁律”所支配，Scaling Law（扩展定律）。它如同计算领域的摩尔定律一般，简单、粗暴、却魔力无穷：投入更多的数据、更多的参数、更多的算力，模型的性能就会线性且可预测地增长。无数的团队，无论是开源巨头还是商业实验室，都将希望孤注一掷地押在了这条唯一的救命稻草上。
扩散式语言模型（Diffusion Language Model, DLM）虽近期受关注，但社区长期受限于（1）缺乏易用开发框架与（2）高昂训练成本，导致多数 DLM 难以在合理预算下复现，初学者也难以真正理解其训练与生成机制。
ChatGPT发布距今已近36个月，面对OpenAI的领先，哈萨比斯带领谷歌AI全面反攻，通过新发布的Gemini 3强势回归。Gemini 3在LM Arena等多个模型榜单登顶，表现优于GPT-5及其他模型，上演了一场完美逆袭。
模型也要学会取长补短。
2000 亿参数、3 万块人民币、128GB 内存，这台被称作「全球最小超算」的机器，真的能让我们在桌面上跑起大模型吗？ 向左滑动查看更多内容，图片来自 x@nvidia 前段时间，黄仁勋正式把这台超
「暗涌Waves」获悉，灵宇宙近日完成2亿元PreA轮融资，由上海国际集团旗下国方创新、国泰海通、广发信德、滴滴出行、拉卡拉旗下考拉基金、润建股份等金融机构和上市公司参投，老股东超额追投。