LLM 很强大，但也存在一些明显缺点，比如幻觉问题、可解释性差、抓不住问题重点、隐私和安全问题等。检索增强式生成（RAG）可大幅提升 LLM 的生成质量和结果有用性。
人会有幻觉，大型语言模型也会有幻觉。近日，OpenAI 安全系统团队负责人 Lilian Weng 更新了博客，介绍了近年来在理解、检测和克服 LLM 幻觉方面的诸多研究成果。
一位已婚男子在AI那里，找到了认同和肯定。MIT研究AI与人类亲密关系先驱称，这只是「亲密幻觉」。
近日，来自牛津大学的研究人员推出了利用语义熵来检测LLM幻觉的新方法。作为克服混淆的策略，语义熵建立在不确定性估计的概率工具之上，可以直接应用于基础模型，无需对架构进行任何修改。
随着AGI这一生产力背后的生产力的进一步发展进化，我们也期待通过不断的努力和探索，推动AGI的技术突破和价值实现，为人类社会创造更多的福祉。
本文介绍了一篇语言模型对齐研究的论文，由瑞士、英国、和法国的三所大学的博士生和 Google DeepMind 以及 Google Research 的研究人员合作完成。
现有多模态大模型在对齐不同模态时面临幻觉和细粒度感知不足等问题，传统偏好学习方法依赖可能不适配的外源数据，存在成本和质量问题。Calibrated Self-Rewarding（CSR）框架通过自我增强学习，利用模型自身输出构造更可靠的偏好数据，结合视觉约束提高学习效率和准确性。
Alembic首次推出用于企业数据分析和决策支持的无「幻觉」人工智能。
DeepMind发表了一篇名为「To Believe or Not to Believe Your LLM」的新论文，探讨了LLM的不确定性量化问题，通过「迭代提示」成功将LLM的认知不确定性和偶然不确定性解耦。研究还将新推导出的幻觉检测算法应用于Gemini，结果表明，与基线方法相比，该方法能有效检测幻觉。
两个星期前，Google 在今年的 I/O 大会中高调介绍了自家的 AI 搜索功能 AI Overview，并在当周宣布对美国用户开放。我们尚且没能等来预热了好久的 ChatGPT Search，全球市占率超过 9 成的搜索引擎巨头 Google 却无预警地在美国开放了 AI 搜索，一副“为了提升用户体验舍我其谁”的架势。
