搜索
刚刚的，面壁智能联合 OpenBMB 搞了个端侧开源周。今天作为开源周的第一天，端出来的是个好东西 BitCPM-CANN，模型权重只需要约 200 MB 的内存，手表也够跑
这场从 Zig 到 Rust 的迁移，实际上只花了大约六天，涉及 96 万行代码，并且在 Linux x64 glibc 环境下通过了现有测试套件的 99.8%。而六天前，Jarred 还在 Hacker News 上说 这是一堆根本还跑不起来的代码，“最后被全Ω部扔掉的概率非常高”。六天后，同样的代码变成了“Zig 的最后一个版本”。
英伟达副总裁亲口承认AI算力账单超过员工工资。所有人都在抱怨AI贵，但很少有人追问一句：这些钱最后流到了哪里？一个答案是韩国。SK海力士Q1利润率72%；三星电子市值突破1万亿美元。这场盛宴的脚本，已经写到了2029年。
前几天在 Milvus 社区，一位做以图搜图的朋友提了一个问题：
有个31B参数的大模型，正常需要80GB显存才能跑。但现在，24GB显存就能跑满血版。这个版本叫Gemma-4-31B-JANG_4M-CRACK——"CRACK"这个词不要理解歪了，它本质是量化压缩加上对齐微调之后的部署版本，不是什么黑客攻击，就是工程优化。24GB，MacBook Pro，直接跑。苹果用户优先优化，MLX原生支持，月下载13000次。
今日，腾讯混元开源翻译模型Hy-MT1.5-1.8B-1.25bit。该模型仅0.4G，就实现了33种语言高质量互译，且下载后可直接在手机本地离线运行，翻译表现优于谷歌翻译。这一原始模型的参数规模为1.8B，为降低用户手机内存压力，腾讯混元团队通过量化压缩推出了适配中高性能手机的2-bit、适配全系列手机的1.25-bit两种方案，模型体积分别被压缩至574MB、440MB。
对本地部署玩家，尤其是Mac用户来说，长上下文推理最大的痛点往往不是“模型不够聪明”，而是稍微多用点上下文，统一内存就被撑爆了”，这一点在最近的Gemma-4 31B的部署中尤为明显，在同等上下文的情况，显存占用比Qwen3.5-27B高约一倍不止，直接劝退了不少人。但好消息是，谷歌近期提出的TurboQuant KV缓存量化算法，正是为了解决这个痛点而生。
AI 时代最赚钱的公司，可能从来不是做 AI 的那个。
郭亚楠说，Context就承接了新需求。传统OS让人和软件对齐，新OS应该让人和Agent对齐。因为Context是个人数据的结构化、语义化集合，它就像OS管理内存和CPU一样管理每个人的数字痕迹。
刚刚，谷歌正式发布 Gemma 4，称“这是其迄今为止最智能的开放模型系列”。该系列面向复杂推理与智能体工作流设计，采用商业许可的 Apache 2.0 许可证开源。Gemma 4 提供四种规格：Effective 2B（E2B）、Effective 4B（E4B）、26B 混合专家模型（MoE）和 31B 稠密模型（Dense）。