端侧 AI 迎来「高智能」时刻,无界方舟开源端侧模型Edge0-145B及统一推理引擎
端侧 AI 迎来「高智能」时刻,无界方舟开源端侧模型Edge0-145B及统一推理引擎无界方舟先后开源Edge0-35B与千亿参数端侧模型Edge0-145B及统一推理引擎,后者可在29GB内存的个人笔记本本地运行,并在多项评测中比肩主流云端模型。
搜索
无界方舟先后开源Edge0-35B与千亿参数端侧模型Edge0-145B及统一推理引擎,后者可在29GB内存的个人笔记本本地运行,并在多项评测中比肩主流云端模型。
11 月 11 日,旧金山 AI Engineer Code Summit(AIE CODE 2026)第二天,官方主题叫 System One:只做判断、不做生成的小模型。
上世纪 40 年代,计算机还是占据一整个房间的庞然大物。它们体积庞大、造价高昂,只有少数科研机构和大型组织能够使用。那时,计算是一种昂贵而稀缺的资源。
苹果在 macOS 27 预装的 fm 命令行中提供免费的 Apple Foundation Model 端侧模型,但中国大陆购买的 Mac 目前不支持 Apple 智能,仍无法调用。
无量火科技与高通联合发布移动端解决方案,Ember推理引擎让未经额外改动的30B大模型在手机运行且质量无损,并将MoE与Dense模型内存占用分别降低80%和50%。
清华大学联合无问芯穹与上海交通大学开源了面向具身模型的端侧推理引擎APXInf,通过全栈优化在Thor芯片上将π0.5推理速度提高约10.7倍,并引入可由Agent执行的工程化流程以适配模型的持续迭代。
斑马智能在2026云栖大会发布面向智能终端的全模态端侧大模型AutoOmni 2.0-23B-A3B,主张智能汽车是具身智能最大的中试场,端侧AI基础设施将决定AI能否在真实世界被真正深度使用。
三星大模型团队联合牛津大学、北京大学提出TrOPD方法,通过信任域机制让端侧模型更稳定高效地继承大模型推理能力,在数学、代码、指令遵循、STEM基准上全面超越现有OPD方法,为前沿智能以更低成本走向数亿终端提供新路径。
元空智能联合惠普发布端侧AI方案,推出涵盖27B稠密与35B-A3B稀疏版本的Boxer系列模型以及AI Work、AI Science两套Agent,主张"设备即环境"理念,强调原生端侧模型才是AI未来发展方向。
过去几年,端侧大模型一直在不断突破能力边界。