大模型自信心崩塌！谷歌DeepMind证实：反对意见让GPT-4o轻易放弃正确答案
大模型自信心崩塌！谷歌DeepMind证实：反对意见让GPT-4o轻易放弃正确答案LLM太谄媚！ 就算你胡乱质疑它的答案，强如GPT-4o这类大模型也有可能立即改口。
来自主题: AI技术研报
5299 点击 2025-07-21 10:59
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
LLM太谄媚！ 就算你胡乱质疑它的答案，强如GPT-4o这类大模型也有可能立即改口。
你是否有过这样的想法： 开发一个存钱管理工具来掌控财务状况。 开发一个感知声音的拍照APP，大喊“茄子”或“嚯哗”就能自动拍照。
AlphaFold夺诺奖引争议！2016年，一位博士生在NeurIPS提出的研究，或许正是AlphaFold的「原型」。如今，导师Daniel Cremers发声，质问为何DeepMind忽略这项研究、不加以引用？
一场突如其来的AI人才争夺战！从神秘会议闪电跳槽，谷歌如何用翻倍薪资和24亿美金协议，瞬间挖走Windsurf顶尖团队？
具身这么火，面向具身场景的生成式渲染器也来了。 中科院自动化所张兆翔教授团队研发的TC-Light，能够对具身训练任务中复杂和剧烈运动的长视频序列进行逼真的光照与纹理重渲染，同时具备良好的时序一致性和低计算成本开销。
给AI一场压力测试，结果性能暴跌近30%。 来自上海人工智能实验室、清华大学和中国人民大学的研究团队设计了一个全新的“压力测试”框架——REST (Reasoning Evaluation through Simultaneous Testing)。
最近测Agent测的非常上头， 而且越来越发现AI在各种专门的领域的垂直能力发展的越来越好了。
7月2日，一个跨国团队在Nature杂志发表了一项开创性研究，宣称其推出的AI系统能够“模拟人类心智”。该系统在实验中可以“扮演”人类，生成逼真的人类行为。
今年 5 月，有研究者发现 OpenAI 的模型 o3 拒绝听从人的指令，不愿意关闭自己，甚至通过篡改代码避免自动关闭。类似事件还有，当测试人员暗示将用新系统替换 Claude Opus 4 模型时，模型竟然主动威胁程序员，说如果你换掉我，我就把你的个人隐私放在网上，以阻止自己被替代。
7 月 16 日，新一代作业帮AI学习机——P50 正式发布，重磅推出「AI 超级老师」功能，代表着学习机行业迈入「超级智能体」时代。