颠覆LLM格局！AI2新模型OLMo2，训练过程全公开，数据架构双升级
颠覆LLM格局！AI2新模型OLMo2，训练过程全公开，数据架构双升级非营利研究机构AI2近日推出的完全开放模型OLMo 2，在同等大小模型中取得了最优性能，且该模型不止开放权重，还十分大方地公开了训练数据和方法。
来自主题: AI技术研报
5854 点击 2025-01-25 09:38
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
非营利研究机构AI2近日推出的完全开放模型OLMo 2，在同等大小模型中取得了最优性能，且该模型不止开放权重，还十分大方地公开了训练数据和方法。
1/10训练数据激发高级推理能力！近日，来自清华的研究者提出了PRIME，通过隐式奖励来进行过程强化，提高了语言模型的推理能力，超越了SFT以及蒸馏等方法。
在上一篇的评论区里，大家发生了争吵： 《DeepSeek-V3 是怎么训练的｜深度拆解》 有的读者指出：DeepSeek V3 有“训练数据抄袭”的问题。
AI缺乏情商，需设计训练数据提高社交认知能力。 当你觉得AI不够好用时，很可能是因为它还不够“懂”你。
曾任OpenAI核心研发者的Suchir Balaji，于10月发文直指ChatGPT等生成式AI违背「合理使用」原则。然而，上月底26岁的他被发现离世，疑为自杀。马库斯发文悼念，称Suchir是个勇敢的年轻人，他对AI训练数据的版权问题提出的担忧「切中要害」。
OpenAI“双12”直播第二天，依旧简短精悍，主题：新功能强化微调（Reinforcement Fine-Tuning），使用极少训练数据即在特定领域轻松地创建专家模型。少到什么程度呢？最低几十个例子就可以。
Show Lab 和微软推出 ShowUI，这是一个刚刚开源的 UI Agent 模型，在中文 APP 定位和导航能力上表现出色。通过创新的视觉 token 选择和独特的训练数据构建方法，该模型在有限的训练数据下实现了非常棒的性能。
谷歌DeepMind最新基础世界模型Genie 2登场！只要一张图，就能生成长达1分钟的游戏世界。从此，我们将拥有无限的具身智能体训练数据。更有人惊呼：黑客帝国来了。
大模型不会照搬训练数据中的数学推理，回答事实问题和推理问题的「思路」也不一样。
最近，Jim Fan参与的一项研究推出了自动化数据生成系统DexMimicGen。该系统可基于少量人类演示，合成类人机器人的灵巧手运动轨迹，解决了训练数据集的获取难题，而且还提升了实验中机器人的表现。