谷歌苹果曝出LLM惊人内幕，自主识别错误却装糊涂！AI幻觉背后藏着更大秘密
谷歌苹果曝出LLM惊人内幕，自主识别错误却装糊涂！AI幻觉背后藏着更大秘密大模型幻觉，究竟是怎么来的？谷歌、苹果等机构研究人员发现，大模型知道的远比表现的要多。它们能够在内部编码正确答案，却依旧输出了错误内容。
来自主题: AI技术研报
5269 点击 2024-11-10 14:11
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
大模型幻觉，究竟是怎么来的？谷歌、苹果等机构研究人员发现，大模型知道的远比表现的要多。它们能够在内部编码正确答案，却依旧输出了错误内容。
该文章的第一作者陈麒光，目前就读于哈工大赛尔实验室。他的主要研究方向包括大模型思维链、跨语言大模型等。 该研究主要提出了推理边界框架（Reasoning Boundary Framework, RBF），首次尝试量化并优化思维链推理能力。
打开AI大模型助手，问个问题，全是正确的废话，又臭又长。让它写个文案，都是套话，根本用不了。这还算好的。有时候，它答着答着就会胡言乱语，让你哭笑不得。
大模型的记忆限制被打破了，变相实现“无限长”上下文。最新成果，来自清华、厦大等联合提出的LLMxMapReduce长本文分帧处理技术。
OpenAI o1风格的推理大模型，有行业垂直版了。HK-O1aw，是由香港生成式人工智能研发中心(HKGAI)旗下AI for Reasoning团队(HKAIR) 联合北京大学对齐团队（PKU-Alignment Team）推出的全球首个慢思考范式法律推理大模型。
近期，智驾行业出现了一个融合了视觉、语言和动作的多模态大模型范式——VLA（Vision-Language-Action Model，即视觉-语言-动作模型），拥有更高的场景推理能力与泛化能力。不少智驾人士都将VLA视为当下“端到端”方案的2.0版本。
智东西11月8日消息，据外媒The Information报道，亚马逊正讨论向美国AI大模型独角兽Anthropic进行第二笔数十亿美元的投资。
继金融后，央国企成了AI大模型先锋官
能够深入大模型内部的新评测指标来了！ 上交大MIFA实验室提出了全新的大模型评估指标Diff-eRank。 不同于传统评测方法，Diff-eRank不研究模型输出，而是选择了分析其背后的隐藏表征。
前些时日，AI 大模型开始掌握操作计算机的能力，但整体而言，它们与物理世界互动的能力仍处于早期阶段。