省钱也是技术活：解密DeepSeek的极致压榨术
省钱也是技术活：解密DeepSeek的极致压榨术没有GPU Poor，只有卷得不够多。 DeepSeek-V3的横空出世，用一组惊人的数据完美诠释了这句话。
来自主题: AI资讯
7383 点击 2025-01-02 10:19
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
没有GPU Poor，只有卷得不够多。 DeepSeek-V3的横空出世，用一组惊人的数据完美诠释了这句话。
历经8个月，斥资约7亿美元，英伟达终于完成对AI初创Run:ai的收购，进一步完善了在AI领域的布局。Run:ai两位创始人表示，他们将会对软件进行开源。
谷歌、亚马逊等巨头纷纷摆脱GPU依赖，于是英伟达选择押注机器人！现在，英伟达已开发了机器人全套解决方案，计划在明年年中发布全新一代人形机器人专用小型计算机Jetson Thor。全球机器人市场，或将迎来大爆发。
CPU+GPU，模型KV缓存压力被缓解了。 来自CMU、华盛顿大学、Meta AI的研究人员提出MagicPIG，通过在CPU上使用LSH（局部敏感哈希）采样技术，有效克服了GPU内存容量限制的问题。
GPU新核弹B300，以及附带CPU的超级芯片GB300。 高算力，在产品层面上相比B200在FLOPS上提高50% 大显存，从192GB提升到288GB，也是提高了50%。
12月26日，界面新闻独家获悉，小米正在着手搭建自己的GPU万卡集群，将对AI大模型大力投入。小米大模型团队在成立时已有6500张GPU资源。
着实有点Amazing啊。
随着Sora震撼发布，视频生成技术成为了AI领域新风口。不过，高昂的开发成本是一大瓶颈。国产平台Video Ocean不仅成功登上全球热榜第三，还将视频生成模型开发成本降低50%。而且，模型构建和性能优化方案现已开源，还能免费获得500元GPU算力。
联想第六代“海神”液冷技术，已实现支持多类型GPU、CPU，散热效率可达98%，PUE最佳可降至1.1，极大降低了数据中心的能耗水平。
许多没有任何GPU背景、算力行业经验的上市公司，将智算中心当做他们发展第二曲线的抓手，筹谋向AI领域转型——比如，生产味精的公司（莲花控股）、造染料的公司（锦鸡股份）、甚至还有博彩行业的玩家（鸿博股份）等等。 但到2024年年底，情况出现了逆转。