GPT-4o二折平替千亿国产大模型出海！刚刚，全球头部模型托管平台Fireworks AI宣布了最新消息。这是继登陆英伟达官网之后，Yi-Large再次入驻美国主流平台。
史上最快Transformer芯片诞生了！用Sohu跑Llama 70B，推理性能已超B200十倍，超H100二十倍！刚刚，几位00后小哥从哈佛辍学后成立的公司Etached，宣布再融资1.2亿美元。
在经历了短暂的全球市值第一后，英伟达的超高市值开始回落，三天内市值总计蒸发4300亿美元。
Cerebras 的 WSE-3 芯片被认为是英伟达强大 GPU 产品的替代。
在英伟达市值猛涨、各家科技巨头囤芯片的热潮中，我们往往会忽视GPU芯片是如何转变为数据中心算力的。最近，一篇SemiAnalysis的技术文章就深入解读了10万卡H100集群的构建过程。
强过英伟达Thor
在AIGC等新应用的推动下，存储行业有望迎来“周期+成长”的共振。
就在刚刚，英伟达市值超越微软，成为全球市值最高公司！而CEO老黄的净资产也随之增至1170亿美元，成为全球TOP 11富人。随着全世界疯抢英伟达GPU，华尔街对AI的乐观情绪还在狂热飙涨！不过，老黄却担忧起来了……
排名超过Llama-3-70B，英伟达Nemotron-4 340B问鼎竞技场最强开源模型！
基于 Transformer架构的大型语言模型在各种基准测试中展现出优异性能，但数百亿、千亿乃至万亿量级的参数规模会带来高昂的服务成本。例如GPT-3有1750亿参数，采用FP16存储，模型大小约为350GB，而即使是英伟达最新的B200 GPU 内存也只有192GB ，更不用说其他GPU和边缘设备。
