AI资讯新闻榜单内容搜索-模型训练

关键词: AI,模型训练,数据集,人工智能

“乱世”其实早已到来，只不过这次是公开承认了这个现实。

关键词: 抱抱脸,小模型,数据集,合成数据,模型训练

浏览器里直接能跑的SOTA小模型来了，分别在2亿、5亿和20亿级别获胜，抱抱脸出品。

关键词: LLM,AI数学,合成数据,模型训练

合成数据2.0秘诀曝光了！来自微软的研究人员们提出了智能体框架AgentInstruct，能够自动创建大量、多样化的合成数据。经过合成数据微调后的模型Orca-3，在多项基准上刷新了SOTA。

关键词: 大模型,模型训练,AI,模型终端部署

在人工智能领域，模型参数的增多往往意味着性能的提升。但随着模型规模的扩大，其对终端设备的算力与内存需求也日益增加。低比特量化技术，由于可以大幅降低存储和计算成本并提升推理效率，已成为实现大模型在资源受限设备上高效运行的关键技术之一。然而，如果硬件设备不支持低比特量化后的数据模式，那么低比特量化的优势将无法发挥。

关键词: Post-Training,机器学习,模型训练,AI

越来越多研究发现，后训练对模型性能同样重要。Allen AI的机器学习研究员Nathan Lambert最近发表了一篇技术博文，总结了科技巨头们所使用的模型后训练配方。

关键词: AI框架,Mamba,Transformer,模型训练

Mamba 虽好，但发展尚早。

关键词: AI,大模型,涌现能力,模型训练

研究发现：大模型尚无法独立学习或获得新技能。

关键词: AI,Metric3D v2,几何基础模型,模型训练,Metric3Dv2

单目深度估计新成果来了！

关键词: LLM,AI,世界模型,模型训练

MIT CSAIL的研究人员发现，LLM的「内心深处」已经发展出了对现实的模拟，模型对语言和世界的理解，绝不仅仅是简单的「鹦鹉学舌」。也就说，在未来，LLM会比今天更深层地理解语言。

关键词: AI,人工智能,模型训练,Scaling Law

让模型具有更加广泛和通用的认知能力，是当前人工智能（AI）领域发展的重要目标。目前流行的大模型路径是基于 Scaling Law (尺度定律) 去构建更大、更深和更宽的神经网络提升模型的表现，可称之为 “基于外生复杂性” 的通用智能实现方法。然而，这一路径也面临着一些难以克服的困境，例如高昂的计算资源消耗和能源消耗，并且在可解释性方面存在不足。