近日，在与数学家Hannah Fry的对话中，DeepMind CEO Demis Hassabis回顾了AI在过去一年的飞跃式进展，他谈到了「参差智能」、持续学习、模型幻觉等迈向AGI过程中的关键挑战，并提到AGI带来的社会冲击可能是工业革命的10倍。
在大型语言模型（LLM）的应用落地中，RAG（检索增强生成）是解决模型幻觉和知识时效性的关键技术。
关于如何避免让大语言模型产生幻觉，一直以来的相关研究都非常多。
《Science》的一篇新文章指出，大模型存在一个先天难解的软肋：幻觉难以根除。AI厂商让大模型在不确定性情况下说「我不知道」，虽然有助于减少模型幻觉，但可能因此影响用户留存与活跃度，动摇商业根本。
幻觉不是 bug，是数学上的宿命。 谢菲尔德大学的最新研究证明，大语言模型的幻觉问题在数学上不可避免—— 即使用完美的训练数据也无法根除。 而更为扎心的是，OpenAI 提出的置信度阈值方案虽能减少幻
为什么我们需要智能写作Agent？
你信任的AI排行榜，可能只是一场精心策划的骗局！震惊业界的Cohere Labs最新研究彻底撕破了Chatbot Arena这一所谓"黄金标准"的华丽面纱，揭露了科技巨头们如何肆无忌惮地操控评估系统、掠夺社区资源、扼杀开源创新。
SuperCLUE-Fact是专门评估大语言模型在中文短问答中识别和应对事实性幻觉的测试基准。测评任务包括知识、常识、对抗性和上下文幻觉。
2024年，智元机器人与北大成立联合实验室，8月发布“远征”与“灵犀”两大系列共五款商用人形机器人新品，10月旗下灵犀X1人形机器人官宣开源，12月宣布正式开启通用机器人量产，不断拓展应用场景。
AI「幻觉」可能在一般人看来是模型的胡言乱语，但它为科学家提供了新的灵感。David Baker甚至利用AI「幻觉」赢得了诺贝尔化学奖。纽约时报发文AI正在加速科学发展，但「幻觉」一词，在科学界仍有争议。
