关于大模型产生幻觉这个事，从2023年GPT火了以后，就一直是业界津津乐道的热门话题，但始终缺乏系统性的重磅研究来深入解释其根本机制。今天，伯克利的研究者们带来一个重要研究成果：让基于Transformer架构的语言模型产生幻觉的机制，恰恰也是让它们拥有超强泛化能力的关键。这就像是一枚硬币的两面，您想要哪一面，就得接受另一面的存在。
Rubrik 联合创始人 Soham Mazumdar 于 2023 年离职后，创立了一家名为 WisdomAI 的新数据初创公司。
“让AI帮忙推荐楼盘，它说得有理有据，连户型都帮我选好了，我都心动了，结果它推荐的楼盘根本不存在……”然而，大家对AI的信任有时也会悄悄动摇：文中附上的引用链接变成失效的乱码，严谨的学术术语下包裹着虚构的参考文献，回答内容中的统计数据从未在标注信源中出现……
2025年2月，如果不是长期从事人口研究的中国人民大学教授李婷的公开辟谣，很多人都真诚地相信了一组数据——“中国80后累计死亡率为5.20%”。
近些日子，老詹突然“爱”上了DeepSeeK，简直有点相见恨晚的感觉！几乎每天都摆弄这玩意儿。然而，处着处着，我发现，这家伙有点靠不住！最大的问题是，说假话！
大模型幻觉，究竟是怎么来的？谷歌、苹果等机构研究人员发现，大模型知道的远比表现的要多。它们能够在内部编码正确答案，却依旧输出了错误内容。
在AI技术广泛应用的企业场景中，提高检索准确度和效率已成为关键挑战。特别是面对生成式AI中的“幻觉”问题，企业急需有效解决方案。
两个星期前，Google 在今年的 I/O 大会中高调介绍了自家的 AI 搜索功能 AI Overview，并在当周宣布对美国用户开放。我们尚且没能等来预热了好久的 ChatGPT Search，全球市占率超过 9 成的搜索引擎巨头 Google 却无预警地在美国开放了 AI 搜索，一副“为了提升用户体验舍我其谁”的架势。
谷歌AI又闯大祸！
GPT-4V 的推出引爆了多模态大模型的研究。GPT-4V 在包括多模态问答、推理、交互在内的多个领域都展现了出色的能力，成为如今最领先的多模态大模型。
