AI资讯新闻榜单内容搜索-moe

关键词: token,MoE,Lory,模型训练,AI

前几天，普林斯顿大学联合Meta在arXiv上发表了他们最新的研究成果——Lory模型，论文提出构建完全可微的MoE模型，是一种预训练自回归语言模型的新方法。

关键词: 微软,moe,Mixtral 8x7B,Gemini 1.5

MH-MoE 能优化几乎所有专家，实现起来非常简单。

关键词: token,MoE,大模型,GPT-4-Turbo,DeepSeek-V2,DeepSeek AI

开源大模型领域，又迎来一位强有力的竞争者。

关键词: MoE,GPT-4,AI,DeepSeek-V2,开源大模型

最新国产开源MoE大模型，刚刚亮相就火了。

关键词: MiniMax,AI产品,AI应用,Kimi,AI

君不见，估值超 25 亿美元一举荣升独角兽。 君不见，闭门研发万亿 MoE 模型 abab 6.5. 君不见，低调上线海螺 AI 功能齐全好用到爆。

关键词: 智子引擎,多模态大模型, Awaker,MOE,AI视频

在 4 月 27 日召开的中关村论坛通用人工智能平行论坛上，人大系初创公司智子引擎隆重发布全新的多模态大模型 Awaker 1.0。

关键词: 多模态,MoE,sora,VDT,Awaker 1.0

在4月27日召开的中关村论坛通用人工智能平行论坛上，人大系初创公司智子引擎隆重发布全新的多模态大模型Awaker 1.0，向AGI迈出至关重要的一步。

关键词: Llama 3,Arctic,Dense-MoE,Mixtral

就在刚刚，拥有128位专家和4800亿参数的Arctic，成功登上了迄今最大开源MoE模型的宝座。

关键词: Snowflake,Llama3,开源模型,企业智能,LLM

Snowflake 发布高「企业智能」模型 Arctic，专注于企业内部应用。

关键词: MiniMax,海螺AI,国产大模型,abab 6.5,AI应用

继 1 月推出国内首个基于 MoE 架构的千亿参数量大语言模型 abab6 后，上周，通用人工智能创业公司、中国估值最高的大模型公司之一 MiniMax 推出了万亿 MoE 模型 abab 6.5。根据 MiniMax 发布的技术报告，在各类核心能力测试中，abab 6.5接近 GPT-4、 Claude 3 Opus 、Gemini 1.5 Pro 等世界领先的大语言模型。