Meta无限长文本大模型来了：参数仅7B，已开源
Meta无限长文本大模型来了：参数仅7B，已开源Transformers 的二次复杂度和弱长度外推限制了它们扩展到长序列的能力，虽然存在线性注意力和状态空间模型等次二次解决方案
来自主题: AI技术研报
7144 点击 2024-04-17 20:17
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
Transformers 的二次复杂度和弱长度外推限制了它们扩展到长序列的能力，虽然存在线性注意力和状态空间模型等次二次解决方案
继之前公开课之后（周鸿祎：2024 年 AI 产业发展的 16 个趋势。）红衣大叔兑现诺言，开源了 7B 系列大模型
学术论文的撤稿事件时有发生，这不仅损害了科研诚信，也可能对公众信任和科学进展产生负面影响。
号称世界首个AI工程师Devin，7×24小时不限时打工，能够debug、训模型、构建部署应用程序，胜任各种代码任务
4 月 4 日，Y Combinator W2024 Batch Demo Day 正式开始。这次共亮相 260 个项目，YC 从 2.7 万份申请中筛选出来，通过率低于 1%，是历史上 YC 录取比例最低的一轮批次之一。
首位超越国际奥林匹克竞赛金牌得主的AI，刚刚诞生了！
来自人大与浙大学者团队的研究者们把涉及数千篇SCI/SSCI的期刊论文的10000多条推文喂给了GPT-4，让它根据推文回答“这篇论文是否有可能被撤稿”，然后和人类预测的结果相比较。
来自Meta、基于Llama2，可是开源界最先进的AI编程大模型之作
对代码大模型而言，比能做编程题更重要的，是看是能不能适用于企业级项目开发，是看在实际软件开发场景中用得顺不顺手、成本高不高、能否精准契合业务需求，后者才是开发者关心的硬实力。
最近，一款针对下一代的AI儿童绘画App热度很高，仅上线7天，在Product Hunt（产品猎手）上，被网友投票为2024年最佳儿童应用产品排名第六。