OpenAI自研芯片帝国，全揭秘
OpenAI自研芯片帝国，全揭秘OpenAI挖来前谷歌芯片员工，正与博通洽谈芯片开发。
来自主题: AI资讯
2996 点击 2024-07-19 15:58
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
OpenAI挖来前谷歌芯片员工，正与博通洽谈芯片开发。
整个市场不再追求大而全，都在走小而精的路线了。
超级分辨率（以下简称「超分」），对很多追求画质的重度游戏玩家来说，可能都不陌生。经过这几年的发展，超分技术在 PC 已经获得了比较广泛的支持和认可，在移动平台上也成为了手机发布会上的常客。
最近，多个机构学者合著的一篇研究为AI的规模化指了一条新路：物理神经网络（PNN），这一新兴的前沿领域还鲜少有人涉足，但绝对值得深耕！AI模型再扩展1000倍的秘密可能就藏在这里。
740 TFLOPS！迄今最强 FlashAttention 来了。
大模型训练推理神作，又更新了！
大幅节省算力资源，又又又有新解了！！
AI 引领革命，打赢「端到端」之战核心靠算力？
Scaling Law 持续见效，让算力就快跟不上大模型的膨胀速度了。「规模越大、算力越高、效果越好」成为行业圭皋。主流大模型从百亿跨越到 1.8 万亿参数只用了1年，META、Google、微软这些巨头也从 2022 年起就在搭建 15000 卡以上的超大集群。「万卡已然成为 AI 主战场的标配。」
为了让大模型在特定任务、场景下发挥更大作用，LoRA这样能够平衡性能和算力资源的方法正在受到研究者们的青睐。