AI资讯新闻榜单内容搜索-transforme

关键词: ConvNet,Transformer,Meta,视觉模型

来自MABZUAI和Meta的研究人员发表的最新研究，在「非标准」指标上全面比较了常见的视觉模型。

关键词: Transformer,AI算法,大模型框架

在自然语言处理（Natural Language Processing，NLP）领域，Transformer 模型因其在序列建模中的卓越性能而受到广泛关注。

关键词: AI大模型,Transformer,自动驾驶模型,自动驾驶AI

自动驾驶中的大模型处理作为当前 AI 领域最为火热的前沿趋势之一，可赋能自动驾驶领域的感知、标注、仿真训练等多个核心环节。同时，也可以有效的提升感知精确度，有利于后续规划控制算法的实施，促进端到端自动驾驶框架的发展。

关键词: 大模型,大模型芯片,AI硬件

近年来，随着Transformer模型的大规模发展和应用，模型大小每两年平均增长240倍，GPT-3等大模型的参数增长已经超过了GPU内存的增长。在大算力激增的需求下，越来越多行业人士认识到，新的计算架构或许才是算力破局的关键。

关键词: Transformer,AI算命,life2vec

AI算命将可以预测人类的意外死亡？丹麦科学家用全国600万人的公开数据训练了一个基于Transformer的模型，成功预测了意外死亡和性格特点。

关键词: VideoPoet,LLM,AI视频

在 AI 领域，近年来各个子领域都逐渐向 transformer 架构靠拢，只有文生图和文生视频一直以 diffusion + u-net 结构作为主流方向。diffusion 有更公开可用的开源模型，消耗的计算资源也更少。

关键词: 谷歌机器人,Robotics Transformer,机器人模型

几乎是和斯坦福“炒虾洗碗”机器人同一时间，谷歌DeepMind也发布了最新具身智能成果。

关键词: 大模型,上下文限制,AI,LLM

作者重点关注了基于 Transformer 的 LLM 模型体系结构在从预训练到推理的所有阶段中优化长上下文能力的进展。

关键词: Hyena,StripedHyena-7B,AI

Hyena处理长序列输入比FlashAttention速度高100倍！最新发布的StripedHyena模型可能成下一代AI架构的新标准？

关键词: 盘古-π,华为大模型,LLaMA

华为盘古系列，带来架构层面上新！量子位获悉，华为诺亚方舟实验室等联合推出新型大语言模型架构：盘古-π。