超大模型推理加速2.18倍！SGLang联合美团技术团队开源投机采样训练框架
超大模型推理加速2.18倍！SGLang联合美团技术团队开源投机采样训练框架专门适用超大模型、带来2.18倍推理加速，最新投机采样训练框架开源！ SGLang团队联合美团搜推平台、Cloudsway.AI开源SpecForge。
来自主题: AI资讯
6178 点击 2025-07-27 13:22
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
专门适用超大模型、带来2.18倍推理加速，最新投机采样训练框架开源！ SGLang团队联合美团搜推平台、Cloudsway.AI开源SpecForge。
还在为 LoRA 训练不稳定、模型融合效果差、剪枝后性能大降而烦恼吗？来自香港城市大学、南方科技大学、浙江大学等机构的研究者们提出了一种简单的渐进式训练策略，CoTo，通过在训练早期随机失活一部分适配器，并逐渐提高其激活概率，有效缓解了层级不均衡问题，并显著增强了模型在多任务融合和剪枝等操作上的鲁棒性和有效性。该工作已被机器学习顶会 ICML 2025 接收。
CostFilter-AD通过构建异常代价体并滤波来优化异常检测，能精准识别微小缺陷，无需缺陷样本训练。可作为通用插件提升现有检测系统，帮助工厂提前发现缺陷，提高产品质量。
2025年7月17日，在GenAI Assembling 第五期硅谷Meetup上，最近火热的明星AI Agent 公司Genspark、Lovart、和Simular.ai的创始人，以及新一代基础设施公司SambaNova的Agent技术负责人，一起讨论了他们在今天AI Agent发展第一线所观察和感受到的一切。
如果你因为太热、太懒、太忙，没法来WAIC；或者是来到展馆，却不知从何逛起，在这份指南里，我们帮你把重点划好了。7月26日，世界人工智能大会（WAIC 2025）在上海世博展览馆开幕。这是一年一度中国AI领域最重要的盛会，没有之一。
国内 AI 创企 RockAI 提出的非 Transformer 架构 Yan 2.0 Preview。这个架构极大地降低了模型推理时的计算复杂度，因此可以在算力非常有限的设备上离线运行，比如树莓派。
一年一度的 WAIC 在明天就要开始了，在正式开展之前，我跟随官方的 city walk 路线探访了一番。 我探访的这条「AI+智慧生活路线」一共有三个目的地：上海发那科机器人有限公司、上海腾讯滨江大厦、模速空间的智能产品体验中心。
Surge AI 成立于 2020 年，是一家专注于数据标注的公司。自成立以来，主创团队都极为低调，社交平台上鲜有公开动态。即便如此，Surge AI 仍在短短几年内实现了业绩大爆发，并成为业内公认的“领域最大且最好的玩家”。截至 2024 年，Surge AI 的 ARR 已突破 10 亿美元，超越了行业巨头 Scale AI 的 8.7 亿美元收入，成为其最大的竞争对手。
ShellAgent 2.0， 没有选择卷复杂华丽的前端页面，而是闷头把后台交互卷到极致。 也就是说，我们写生成应用提示语的难度降到了有嘴就会的级别。
机器人能通过普通视频来学会实际物理操作了！ 来看效果，对于所有没见过的物品，它能精准识别并按照指令完成动作。