随着LLM不断迭代，偏好和评估数据中大量的人工标注逐渐成为模型扩展的显著障碍之一。Meta FAIR的团队最近提出了一种使用迭代式方法「自学成才」的评估模型训练方法，让70B参数的Llama-3-Instruct模型分数超过了Llama 3.1-405B。
AI（人工智能）的发展如同潮水般汹涌而来，以其不可阻挡的势头，深刻地改变了我们生活的方方面面。从医疗健康到金融服务，从智能交通到教育领域，AI的影响力无处不在，它正以前所未有的速度和规模，重塑着传统行业的面貌，引领着一场全新的技术革命
大语言模型的「逆转诅咒」，被解开了。近日，来自Meta FAIR的研究人员推出了反向训练大法，让模型从反方向上学到了事实之间的逻辑，终于改进了这个困扰人们已久的问题。
在文本生成音频（或音乐）这个 AIGC 赛道，Meta 最近又有了新研究成果，而且开源了。前几日，在论文《Masked Audio Generation using a Single Non-Autoregressive Transformer》中，Meta FAIR 团队、Kyutai 和希伯来大学推出了 MAGNeT，一种在掩码生成序列建模方法。
2021年劈柴恭喜小扎FAIR在取得的突破时，小扎并不知道到底发生了什么，但快速的学习能力让他重新把Meta从泥潭中拉了出来。无心插柳的FAIR和开源AI让小扎打了一次漂亮的翻身仗。
今天，小扎正式宣战「开源AGI」！下一代大模型Llama 3正在训练，年底将拥有35万块H100，届时算力总和达60万块H100。为了追赶OpenAI，成立十年的FAIR团队纳入GenAI，全力奔赴AGI。
