一文看懂Gen AI浪潮下数据中心的新机遇
一文看懂Gen AI浪潮下数据中心的新机遇数据中心设计转向高功率密度应对AI需求增长。
来自主题: AI资讯
6929 点击 2024-10-16 15:41
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
数据中心设计转向高功率密度应对AI需求增长。
OpenAI正与甲骨文洽谈，计划联手构建一个全球最顶尖的AI数据中心。
近日，初创公司Lumen Orbit要放大招，该公司要把数据中心搬到太空去，在太空建立AI超级计算机。Lumen Orbit已经拿到Y Combinator的投资，计划明年就发射第一颗卫星，上面搭载的GPU比之前所有送上太空的GPU都要强大100倍。
最近，国外的一份研究报告揭秘了 OpenAI、围绕和谷歌在 AI Infra 层的布局，我们将文章提炼出了核心观点，并进行精校翻译。
大摩认为，GPU供应仍然比较紧张，需求继续超过供应。过去6个月中H100租赁价格有所下降，但价格的绝对水平表明硬件的投资回报率非常高，回本期在一年以内。
最近，Meta的多个工程团队联合发表了一篇论文，描述了在引入基于GPU的分布式训练时，他们如何为其「量身定制」专用的数据中心网络。
8月27日消息，在近日召开的Hot Chips 2024大会上，韩国AI芯片初创公司FuriosaAI 推出了一款面向高性能大型语言模型和多模态模型推理的高能效数据中心AI加速器 RNGD。
土地和电力资源成为AI行业的“香饽饽”，而工业用地正好能满足AI数据中心建设的部分“刚需”。
AI工厂崛起，推动数据中心建设和能源转型。
AI的终点是电力。因为数据中心最终要实现可持续发展，净零碳排放，AI的真正的终点是清洁电力。