AI资讯新闻榜单内容搜索-预训练

关键词: 模型训练,MiCo,GPT-4o,AI,大模型

GPT-4o掀起一股全模态（Omni-modal）热潮，去年的热词多模态仿佛已经不够看了。

关键词: AI训练,HuggingFace,FineWeb,数据集,模型训练

从大规模网络爬取、精细过滤到去重技术，通过FineWeb的技术报告探索如何打造高质量数据集，为大型语言模型（LLM）预训练提供更优质的性能。

关键词: AI Lab,AI套壳,Llama3-V,大模型,清华AI

抄袭框架和预训练数据的情况，是更狭义的套壳。

关键词: LLaMa 3,数据集,模型训练,Karpathy,LLM

众所周知，对于 Llama3、GPT-4 或 Mixtral 等高性能大语言模型来说，构建高质量的网络规模数据集是非常重要的。然而，即使是最先进的开源 LLM 的预训练数据集也不公开，人们对其创建过程知之甚少。

关键词: FlashST,智慧交通,AI交通,时空预测模型

华南理工大学和香港大学的研究人员在ICML 2024上提出了一个简单而通用的时空提示调整框架FlashST，通过轻量级的时空提示网络和分布映射机制，使预训练模型能够适应不同的下游数据集特征，显著提高了模型在多种交通预测场景中的泛化能力。

关键词: token,MoE,Lory,模型训练,AI

前几天，普林斯顿大学联合Meta在arXiv上发表了他们最新的研究成果——Lory模型，论文提出构建完全可微的MoE模型，是一种预训练自回归语言模型的新方法。

关键词: RNAErnie,Transformer,语言模型,AI学术,AI科研

预训练语言模型在分析核苷酸序列方面显示出了良好的前景，但使用单个预训练权重集在不同任务中表现出色的多功能模型仍然存在挑战。

关键词: 大模型,文档截断,模型训练,AI学术

在大型语言模型的训练过程中，数据的处理方式至关重要。

关键词: GPT-3.5,微软,Phi-3,微软AI,Scaling Laws

过去几年，借助Scaling Laws的魔力，预训练的数据集不断增大，使得大模型的参数量也可以越做越大，从五年前的数十亿参数已经成长到今天的万亿级，在各个自然语言处理任务上的性能也越来越好。

关键词: HuggingFace,开源模型,FineWeb,数据集,模型训练

Meta最近开源的Llama 3模型再次证明了「数据」是提升性能的关键，但现状是，开源的大模型有一堆，可开源的大规模数据却没多少，而收集、清洗数据又是一项极其费时费力的工作，也导致了大模型预训练技术仍然掌握在少数高端机构的手中。