华为中科大联创大模型低比特量化算法，1‰数据实现昇腾无损压缩7倍
华为中科大联创大模型低比特量化算法，1‰数据实现昇腾无损压缩7倍大模型巨无霸体量，让端侧部署望而却步？华为联手中科大提出CBQ新方案，仅用0.1%的训练数据实现7倍压缩率，保留99%精度。
来自主题: AI技术研报
8030 点击 2025-05-26 15:21
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
大模型巨无霸体量，让端侧部署望而却步？华为联手中科大提出CBQ新方案，仅用0.1%的训练数据实现7倍压缩率，保留99%精度。
刚刚，全球规模最大的单细胞基础大模型来了，而且是纯国产！近日，中山大学杨跃东教授团队联合重庆大学、华为、新格元生物科技，研发单细胞基础大模型CellFM，成果发表在Nature Communications上。
在今年 2 月的 DeepSeek 开源周中，大模型推理过程中并行策略和通信效率的深度优化成为重点之一。在今年 2 月的 DeepSeek 开源周中，大模型推理过程中并行策略和通信效率的深度优化成为重点之一。
刚刚，昇腾两大技术创新，突破速度瓶颈重塑AI推理。FusionSpec创新的框架设计配合昇腾强大的计算能力，将投机推理框架耗时降至毫秒级，打破延迟魔咒。OptiQuant支持灵活量化，让推理性价比更高。
要问最近哪个模型最火，混合专家模型（MoE，Mixture of Experts）绝对是榜上提名的那一个。
部署超大规模MoE这件事，国产芯片的推理性能，已经再创新高了—— 不仅是“英伟达含量为0”这么简单，更是性能全面超越英伟达Hopper架构！
自回归（AR）范式凭借将语言转化为离散 token 的核心技术，在大语言模型领域大获成功 —— 从 GPT-3 到 GPT-4o，「next-token prediction」以简单粗暴的因果建模横扫语言领域。
昨晚，美商务部正式废止《AI扩散规则》，同时加码全球半导体出口管制，精准打击中国AI发展。发布指导意见，在世界任何地方使用华为AI芯片，都违反美国出口管制。 警告公众当美国AI芯片被用于训练/推理中国AI模型时的潜在后果。向美国公司发布关于如何保护供应链免受转移策略影响的指导意见。
长思维链让大模型具备了推理能力，但如果过度思考，就有可能成为负担。
华为哈勃首次投资机器人公司千寻智能，5月将发新Demo。