搜索
为解决大模型（LLMs）在处理超长输入序列时遇到的内存限制问题，本文作者提出了一种新型架构：Infini-Transformer，它可以在有限内存条件下，让基于Transformer的大语言模型（LLMs）高效处理无限长的输入序列。实验结果表明：Infini-Transformer在长上下文语言建模任务上超越了基线模型，内存最高可节约114倍。
上个月，初创公司 Cognition AI 用精妙绝伦的 Demo 演示了 AI 软件工程师 Devin，一夜之间在 X 上卷起风暴之余，也让更多程序员发出了如上疑问。
感谢大家对此系列的喜爱，今天我们迎来了第四期！（文末有前三期的链接）话不多说直接上菜。
零样本、仅听3秒提示音频，即可1:1复刻人声。
前两天刚刚疯传的Suno挑战者、“音乐版Sora”正式现真身： 正式名称Udio，已完全免费开放，每人每月有足足1200首额度，网友们都玩疯了。
从今年起，高中生也要卷AI顶会了，真是计算机从娃娃抓起？
新版GPT-4是在Q*的输出上微调的在竞技场重回榜一的新版GPT-4 Turbo，成功再次踩中大家嗨点
它通过将压缩记忆（compressive memory）整合到线性注意力机制中，用来处理无限长上下文
不走Transformer寻常路，魔改RNN的国产新架构RWKV，有了新进展： 提出了两种新的RWKV架构，即Eagle (RWKV-5) 和Finch（RWKV-6)。
号称世界首个AI工程师Devin，7×24小时不限时打工，能够debug、训模型、构建部署应用程序，胜任各种代码任务
Humane AI Pin 的背后理念很简单：这是一台没有屏幕的手机。它不会要求用户去打开各种应用或者在键盘上进行操作，而是通过一个 AI 助手和一个称作 CosmOS 的操作系统，将所有复杂功能简化。
随着大模型的参数量日益增长，微调整个模型的开销逐渐变得难以接受。 为此，北京大学的研究团队提出了一种名为 PiSSA 的参数高效微调方法，在主流数据集上都超过了目前广泛使用的 LoRA 的微调效果。
谷歌又放大招了，发布下一代 Transformer 模型 Infini-Transformer。
半年来内斗剧情跌宕起伏的企业 OpenAI，再次传来人员变动的消息。
据外媒报道，OpenAI超级对齐团队的2名研究员，因泄露「机密」被正式开除
今天起，最新版的GPT-4 Turbo，正式向ChatGPT Plus用户开放了
大语言模型的效率，正在被这家「清华系」创业公司发展到新高度。
在实践中，人类预测的准确性依赖于「群体智慧」（wisdom of the crowd）效应，即通过聚集一群个体预测者，对未来事件的预测准确率会显著提高
识读距今2300多年战国时期的上古竹简，AI正在立功。 而且在这背后的“大功臣”，竟是只有2B大小的多模态大模型！
一年多来，大模型技术的进步日新月异，模型能力的上限不断抬高。但从产业变革的角度看，大模型的落地或许刚刚处于开端阶段。如何才能发挥出大模型的巨大潜力，并推动生产力更快更好地变革，仍然是一个充满探索空间的课题。
时隔七十多天，面壁在发布了MiniCPM-2B后又带来四个特性鲜明的模型，同时它还官宣了数亿元的新融资。
去年 11 月，一家名不见经传的公司 Humane 发布了一款全新概念的产品——AI Pin，并在此后数次成为科技圈讨论的热点。包括魅族在年初宣布停止传统「智能手机」项目 All in AI 的时候，还专门提到了这款新一代 AI 独立终端的开山之作。
本文来自Sangeet Paul Choudary，其以在平台经济学和网络效应方面的研究而闻名。在本文中，Choudary探讨了垂直 AI 与代理如何重塑 B2B 工作流价值链。在他看来，虽然大多数人工智能炒作都围绕水平 B2C 应用，但真正的机会在于垂直 B2B 人工智能。
日前，马斯克在与挪威央行首席执行官 Nicolai Tangen 的一次直播访谈中，说出了许多争议性言论： “我见过很多技术，AI 是我见过发展最快的技术。”
人工智能（AI）和自动化技术正在逐步改变传统招聘流程，并预计到2025年，AI将成为人 力资源管理中不可或缺的一部分
AgentLite 便是其中一个起点，专注从科学研究的角度把 Agent 以及 Multi-Agent 的开发标准统一，让学术界的奇思妙想更快迭代
36氪获悉，内容商业AIGC视频应用平台「筷子科技Kuaizi.ai」宣布完成近5000万元B1轮融资
李彦宏对大模型开源与闭源的路线选择以及AI创业者应该专注模型还是应用等业界焦点话题，发表了自己的看法
AI“复活”正从一个体验式的产品，逐渐成为一条产业链
