LLM超越人类时该如何对齐？谷歌用新RLHF框架解决了这个问题
LLM超越人类时该如何对齐？谷歌用新RLHF框架解决了这个问题让 LLM 在自我进化时也能保持对齐。
来自主题: AI技术研报
5290 点击 2024-11-05 14:44
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
让 LLM 在自我进化时也能保持对齐。
不确定是不是 OpenAI 又在狙击谷歌，ChatGPT 爆改 AI 搜索引擎只比谷歌的竞品迟到了一分钟。
谷歌超25%新代码由AI生成，却遭到了自家员工的反对。劈柴的一句话，又让谷歌成为了众矢之的。
开源数据库引擎 SQLite 有 bug，还是智能体检测出来的！
两个月前，我们对 AI 游戏的认知刚刚被谷歌 GameNGen 颠覆。他们实现了历史性的突破，从此不再需要游戏引擎，AI 能基于扩散模型，为玩家生成实时可玩的游戏。
对于人类而言，一旦掌握了 “打开瓶盖” 的动作，面对 “拧紧螺丝” 这样的任务通常也能游刃有余，因为这两者依赖于相似的手部动作。然而，对于机器人来说，即使是这样看似简单的任务转换依然充满挑战。例如，换成另一种类型的瓶盖，机器人可能无法成功打开。这表明，目前的机器人方法尚未充分让模型学习到任务的内在执行逻辑，而只是单纯的依赖于数据拟合。
NotebookLM是谷歌开发的一款人工智能驱动的研究和写作工具，上传一个源文件，它会为用户生成一个音频概述或播客。这款产品的爆火很大一部分原因是简单的一键式体验，研发人员将交互按钮设计得十分简洁有趣，吸引更多用户尝试。
10 月 31 日，以色列 AI 游戏视频生成公司 Decart 宣布获得红杉美国领投的 2100 万美元种子轮融资。
谷歌地图引入AI功能，可以回答用户通过输入的描述性问题，并且提示用户搜索某些地点,同时AI还会给出对应地点的相关信息和评价。
DeepMind 公布其正在开发一套创新的音频生成技术细节，也就是NotebookLM背后使用的语音技术。使 AI 能够生成更加自然的对话和高质量的音频。这些技术不仅提升了语音助手的交互性，还帮助多种应用在语音合成和对话生成上取得更大进展。