AI资讯新闻榜单内容搜索-大型语言模型

关键词: LLM,AI搜索,神经架构搜索,LLaMA2-7B,模型训练

大型语言模型（LLM）的一个主要特点是「大」，也因此其训练和部署成本都相当高，如何在保证 LLM 准确度的同时让其变小就成了非常重要且有价值的研究课题。

关键词: AI训练,HuggingFace,FineWeb,数据集,模型训练

从大规模网络爬取、精细过滤到去重技术，通过FineWeb的技术报告探索如何打造高质量数据集，为大型语言模型（LLM）预训练提供更优质的性能。

关键词: openai,chatGPT,OpenRLHF,对齐,模型训练

随着大型语言模型（LLM）规模不断增大，其性能也在不断提升。尽管如此，LLM 依然面临着一个关键难题：与人类的价值和意图对齐。在解决这一难题方面，一种强大的技术是根据人类反馈的强化学习（RLHF）。

关键词: 模型训练,token,next-token,GPT,Llama

研究人员提出了一种新的大型语言模型训练方法，通过一次性预测多个未来tokens来提高样本效率和模型性能，在代码和自然语言生成任务上均表现出显著优势，且不会增加训练时间，推理速度还能提升至三倍。

关键词: 人工智能,AI,大模型,SimPO,模型训练,模型微调

为了将大型语言模型（LLM）与人类的价值和意图对齐，学习人类反馈至关重要，这能确保它们是有用的、诚实的和无害的。在对齐 LLM 方面，一种有效的方法是根据人类反馈的强化学习（RLHF）。尽管经典 RLHF 方法的结果很出色，但其多阶段的过程依然带来了一些优化难题，其中涉及到训练一个奖励模型，然后优化一个策略模型来最大化该奖励。

关键词: 大模型,文档截断,模型训练,AI学术

在大型语言模型的训练过程中，数据的处理方式至关重要。

关键词: Medusa2,AI,模型训练,LLMs,顺序解码器

传统上，大型语言模型（LLMs）被认为是顺序解码器，逐个解码每个token。

关键词: AI数学,MUSTARD,LLM,大模型, LLMs

近年来，大型语言模型（LLM）在数学应用题和数学定理证明等任务中取得了长足的进步。数学推理需要严格的、形式化的多步推理过程，因此是 LLMs 推理能力进步的关键里程碑， 但仍然面临着重要的挑战。

关键词: AI,AI论坛,AlphaFold,人工智能

人工智能（AI）工具正在改变科学研究的方式。AlphaFold基本解决了蛋白质结构预测难题；DeepMD大大提高了分子模拟的效率和精度；而新兴的大型语言模型，如ChatGPT等，也正在科学研究领域开疆拓土。

关键词: OctopusV3,AI大模型,GPT-4V,GPT-4,多模态模型

多模态 AI 系统的特点在于能够处理和学习包括自然语言、视觉、音频等各种类型的数据，从而指导其行为决策。近期，将视觉数据纳入大型语言模型 (如 GPT-4V) 的研究取得了重要进展，但如何有效地将图像信息转化为 AI 系统的可执行动作仍面临挑战。