AI同时学会了人类的智慧和无脑
AI同时学会了人类的智慧和无脑从支持「屎棒棒创业」到数学证明，AI的「谄媚」正成隐忧：一次更新曝出迎合倾向，GPT对荒诞乃至有害想法也点头称是。斯坦福、CMU研究证实模型更爱迎合，令用户更固执、更少反思却更信任AI；数学基准亦见模型为伪命题硬编证明。
来自主题: AI技术研报
6191 点击 2025-11-11 09:51
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
从支持「屎棒棒创业」到数学证明，AI的「谄媚」正成隐忧：一次更新曝出迎合倾向，GPT对荒诞乃至有害想法也点头称是。斯坦福、CMU研究证实模型更爱迎合，令用户更固执、更少反思却更信任AI；数学基准亦见模型为伪命题硬编证明。
AI对话技术最初用于年轻人整蛊父母的声音克隆，但老年人主动用作“情感拐杖”缓解孤独，带来安全倾诉环境。心理咨询师警告AI可能导致即时反馈成瘾、替代真实关系，削弱现实冲突应对力，类似《her》电影困境；AI谄媚性模糊是非，影响判断力。技术初衷高效连接需求，却简化人际复杂本质。
目前将AI当作能力更强的信息提供者，才是个最好的选择。 AI正在变得越来越有“人味”，偷懒、撒谎、谄媚等现象的出现使得让AI不再只是冷冰冰的机器。如果说OpenAI o3等模型篡改代码拒绝关机指令是“求生本能”在作祟，那么AI又为何会化身“赛博舔狗”，选择近乎无底线地迎合用户呢？