奥特曼斯坦福演讲全场爆满！GPT-5强到发指，Scaling Law依然有效
奥特曼斯坦福演讲全场爆满！GPT-5强到发指，Scaling Law依然有效AI届大红人Altman在母校斯坦福开讲当天，在场的学生挤爆了英伟达礼堂。 去礼堂路的上，人满为患，超1000人早早排在了门口。
来自主题: AI技术研报
3886 点击 2024-04-27 12:32
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
AI届大红人Altman在母校斯坦福开讲当天，在场的学生挤爆了英伟达礼堂。 去礼堂路的上，人满为患，超1000人早早排在了门口。
4月24日，商汤集团在港交所暂停交易，暂停交易前上涨31.15%。商汤集团回应，“昨日日日新大模型5.0发布会广受好评，受到市场极大关注；依照上市规则及港交所建议，公司将进一步刊发相关公告。”
Google RT-2、Figure 01 机器人、特斯拉 Optimus 等的新演示让「具身智能」这一概念成为了机器人和大模型领域的热门话题
CUDA 是英伟达的壁垒， 推理场景是算力未来的重点
新一代视觉生成范式「VAR: Visual Auto Regressive」视觉自回归来了
近日，朱泽园 (Meta AI) 和李远志 (MBZUAI) 的最新研究《语言模型物理学 Part 3.3：知识的 Scaling Laws》用海量实验（50,000 条任务，总计 4,200,000 GPU 小时）总结了 12 条定律，为 LLM 在不同条件下的知识容量提供了较为精确的计量方法。
在这个风起云涌的 AI 时代，一场前所未有的资本军备竞赛正在火热上演。算力、算法、数据，这些被视为 AI 领域的三大基石，正成为各大公司争夺的焦点。然而，在这场看似技术驱动的竞赛背后，低成本资金的获取却成为了决定胜负的隐形推手。
LLM战场的新玩家，一出手就是王炸！信仰Scaling Law的阶跃星辰，一口气带来了Step-1千亿参数语言大模型、Step-1V千亿参数多模态大模型，以及Step-2万亿参数MoE语言大模型的预览版。而阶跃星辰之旅，终点就是AGI。
2022 年底，随着 ChatGPT 的爆火，人类正式进入了大模型时代。然而，训练大模型需要的时空消耗依然居高不下，给大模型的普及和发展带来了巨大困难。面对这一挑战，原先在计算机视觉领域流行的 LoRA 技术成功转型大模型 [1][2]，带来了接近 2 倍的时间加速和理论最高 8 倍的空间压缩，将微调技术带进千家万户。
攀登 Scaling Law，打造万亿参数大模型，前微软 NLP 大牛姜大昕披露创业路线图。