AI资讯新闻榜单内容搜索-压缩

关键词: 大模型训练,大模型压缩,OneBit

近期，清华大学和哈尔滨工业大学联合发布了一篇论文：把大模型压缩到 1.0073 个比特时，仍然能使其保持约 83% 的性能！

关键词: GPU,模型稀疏化,模型训练,SliceGPT

大语言模型之大，成本之高，让模型的稀疏化变得至关重要。

关键词: GPT-4,Self-Discover,大模型训练,大模型

谷歌&南加大推出最新研究“自我发现”（Self-Discover），重新定义了大模型推理范式。与已成行业标准的思维链（CoT）相比，新方法不仅让模型在面对复杂任务时表现更佳，还把同等效果下的推理成本压缩至1/40。

关键词: LLMs,大模型,模型压缩

大规模语言模型（LLMs）在很多关键任务中展现出显著的能力，比如自然语言理解、语言生成和复杂推理，并对社会产生深远的影响。然而，这些卓越的能力伴随着对庞大训练资源的需求（如下图左）和较长推理时延（如下图右）。因此，研究者们需要开发出有效的技术手段去解决其效率问题。

关键词: 大模型算力,Infini-ACC,无问芯穹

算力不足仍然是制约通用人工智能发展的重要因素。GPU Utils 今年 8 月的一份数据显示，全球目前 H100 等效算力的供给缺口达到 43 万张。在解决算力不足的问题上，除了抢购和囤积英伟达，更多的方案正在浮出水面。

关键词: LLM,智能奇点,GPT-4

AGI 到底离我们还有多远？在 ChatGPT 引发的新一轮 AI 爆发之后，伯克利和香港大学的马毅教授领导的一个研究团队给出了自己的最新研究结果：包括 GPT-4 在内的当前 AI 系统所做的正是压缩。

关键词: AI PC,AI电脑,本地知识库

联想发布首款AI PC！AI PC能够创建个性化的本地知识库，通过模型压缩技术运行个人大模型，实现AI自然交互。这意味着AI PC不仅可以自动化完成许多繁琐的任务，提高工作效率，还能根据用户的需求和习惯进行个性化定制，让工作变得更加智能、便捷。

关键词: AI,AI机器人,AI编程,人工智能

大自然花了数十亿年才演化出第一种能够行走的物种，但新算法将进化过程压缩到了极速——在短短几秒钟内设计出了一个成功行走的机器人。

关键词: Deep,Render,AI压缩,AI视频

Deep Render是一家利用AI解决数十年之久的计算机压缩问题的初创公司。它开发了纯人工智能视频压缩技术，据称可以将视频文件大小缩小 5 倍，目标是提高 50 倍。

关键词: AI,AI语言模型

有效的压缩就是要找到模式，在不丢失信息的情况下将数据变小。当一种算法或模型能准确猜出序列中的下一条数据时，就表明它善于发现这些模式。