评测超Llama2，混合专家模型（MoE）会是大模型新方向吗
评测超Llama2，混合专家模型（MoE）会是大模型新方向吗混合专家模型（MoE）成为最近关注的热点。
来自主题: AI技术研报
7341 点击 2023-12-30 10:28
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
混合专家模型（MoE）成为最近关注的热点。
. 12月底，《自然-计算科学》发表研究，揭示丹麦科技大学国际研究团队的新产品——“Life2vec”的预报原理。它可以直接预测人的死亡率，准确率高达78%，据称是目前市面上准确度最高的预测方式。团队使用七年间超过230万名35至65岁丹麦人群的数据，分析个人生命历程中的事件序列，预测接下来最有可能发生的事情。
最近，关于Altman的风波不断。有人挖出他戴着价值48万美元的奢侈品手表，开着价值上亿的豪车，而更让人瞠目结舌的，就是他奢华无比的硅谷大佬朋友圈了。
谷歌发布Gemini以后，一直宣称Gemini Pro要优于GPT-3.5，而CMU的研究人员通过自己实测，给大家来了一个客观中立第三方的对比。结果却是GPT-3.5几乎还是全面优于Gemini Pro，不过双方差距不大。
算力不足仍然是制约通用人工智能发展的重要因素。GPU Utils 今年 8 月的一份数据显示，全球目前 H100 等效算力的供给缺口达到 43 万张。在解决算力不足的问题上，除了抢购和囤积英伟达，更多的方案正在浮出水面。
根据世界卫生组织（WHO）发布的《2022年世界卫生统计》报告，全球出生时的预期寿命从2000年的66.8岁提高到2019年的73.3岁，全球预期寿命增加了近6岁。然而，寿命的延长并不意味着健康寿命的相应延长。
根据IDC预测，到2026年，中国市场近50%的终端设备处理器将带有AI技术。
有位中国人就在ChatGPT上训练了一个“算命专用AI”——然后迅速成为GPTs中文榜排名第一的应用
在Gemini开放API不到一周的时间，港中文等机构就完成评测，联合发布了多达128页的报告，结果显示：在37个视觉理解任务上，Gemini-Pro表现出了和GPT-4V相当的能力。
上海交大IPADS实验室推出的开源推理框架PowerInfer，让大模型推理速度加快了11倍。