换掉Transformer，7B开源模型立刻登顶！任意长序列都能处理
换掉Transformer，7B开源模型立刻登顶！任意长序列都能处理只是换掉Transformer架构，立马性能全方位提升，问鼎同规模开源模型！
来自主题: AI资讯
8020 点击 2024-08-13 16:47
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
只是换掉Transformer架构，立马性能全方位提升，问鼎同规模开源模型！
2024年上海的7月是一个沉闷的雨季，但对国产AI 行业来说，却迎来了堪比摇滚乐集会的WAIC（世界人工智能大会）。
最近，数智前线通过中国政府采购网、中国招投标公共服务平台、天眼查、企查查、寻标宝等渠道的梳理和不完全统计，仅2024年前7个月，围绕土建基础设施和IT基础架构等方方面面的建设内容，智算中心相关项目中标公告已发布超140个。 一些新的趋势和特征，也正逐渐明晰。
2017 年，谷歌在论文《Attention is all you need》中提出了 Transformer，成为了深度学习领域的重大突破。该论文的引用数已经将近 13 万，后来的 GPT 家族所有模型也都是基于 Transformer 架构，可见其影响之广。 作为一种神经网络架构，Transformer 在从文本到视觉的多样任务中广受欢迎，尤其是在当前火热的 AI 聊天机器人领域。
南加州大学凯克医学院利用AI技术将脑癌细胞转化为免疫细胞，在胶质母细胞瘤小鼠模型中将生存机会提高了75%。
多模态大语言模型 (Multimodal Large Language Moodel, MLLM) 以其强大的语言理解能力和生成能力，在各个领域取得了巨大成功。
应广大用户需求，OpenAI终于发布重量级新功能。
Chegg全面拥抱AI，投资人依然信心不足。
AI真的已经危险到要如此监管的地步了吗？
7月27号，蔚来举办了一场技术发布会，有芯片亮相，也有整车操作系统发布，有Nio Phone的正式上市，也有智能驾驶世界模型NWM的展示。发布会后的第二天，虎嗅汽车来到蔚来位于上海漕河泾的办公室，和蔚来智能驾驶副总裁任少卿聊了两个小时。