H100利用率飙升至75%!英伟达亲自下场FlashAttention三代升级,比标准注意力快16倍
H100利用率飙升至75%!英伟达亲自下场FlashAttention三代升级,比标准注意力快16倍大模型训练推理神作,又更新了!
大模型训练推理神作,又更新了!
AI算力资源越发紧张的当下,斯坦福新研究将GPU运行效率再提升一波——
大模型价格战,这匹国产黑马又破纪录了!最低的GLM-4 Flash版本,百万token价格已经低至0.1元,可以说是击穿地心。MaaS 2.0大升级,让企业训练私有模型的成本无限降低。
华南理工大学和香港大学的研究人员在ICML 2024上提出了一个简单而通用的时空提示调整框架FlashST,通过轻量级的时空提示网络和分布映射机制,使预训练模型能够适应不同的下游数据集特征,显著提高了模型在多种交通预测场景中的泛化能力。
由业内大佬Amnon Shashua创立的Mentee Robotics,突然放出大招,将AI的能力嵌入到机器人的各个层面,实现了与世界的动态交互。
谷歌表示,Gemini 1.5 相比 Claude 3.0 和 GPT-4 Turbo 实现了代际提升。
众所周知,大语言模型的训练常常需要数月的时间,使用数百乃至上千个 GPU。以 LLaMA2 70B 模型为例,其训练总共需要 1,720,320 GPU hours。由于这些工作负载的规模和复杂性,导致训练大模型存在着独特的系统性挑战。
AIGC新应用,到底将重塑怎样的一个新世界? 现在,只需一天的时间,你就能感受到它们正在引领的科技新范式。
该团队的新模型在多个基准测试中都与 Gemini Pro 、GPT-3.5 相媲美。
不久前,AI新光年与知衣科技创始人兼CEO郑泽宇就“人工智能如何改变服装行业”的话题进行了一次探讨。2024年伊始,这位年轻的AI高级工程师做完了2023年复盘,也做好了新一年的规划。