AI资讯新闻榜单内容搜索-蒸馏

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
搜索: 蒸馏
D-OPSD: 将OPSD引入扩散模型,让少步扩散模型「边跑边学」,还能学会新概念

D-OPSD: 将OPSD引入扩散模型,让少步扩散模型「边跑边学」,还能学会新概念

D-OPSD: 将OPSD引入扩散模型,让少步扩散模型「边跑边学」,还能学会新概念

阿里巴巴 Z-Image 团队联合香港科技大学、加州大学圣地亚哥分校、香港中文大学等机构提出 D-OPSD(On-Policy Self-Distillation),首个针对少步扩散模型的在线策略自蒸馏框架。D-OPSD 无需奖励模型、无需成对偏好数据,

来自主题: AI技术研报
8237 点击    2026-05-16 10:44
名师一定出高徒?清华团队最新揭秘:别再迷信大模型蒸馏的「免费午餐」

名师一定出高徒?清华团队最新揭秘:别再迷信大模型蒸馏的「免费午餐」

名师一定出高徒?清华团队最新揭秘:别再迷信大模型蒸馏的「免费午餐」

当下的大模型后训练(Post-training)pipeline 中,On-Policy Distillation(OPD)已经成为了明星技术。从 Qwen3、MiMo 到 GLM-5,业界纷纷采用 OPD 并报告了巨大的性能提升。相比于强化学习(RL)稀疏的结果奖励,OPD 提供了密集的 Token 级别监督信号,看起来就像是一顿「免费的午餐」。

来自主题: AI技术研报
9502 点击    2026-05-14 09:59
ICML 2026 | 将多教师冲突转化为动态约束,破解多模态大模型推理对齐难题

ICML 2026 | 将多教师冲突转化为动态约束,破解多模态大模型推理对齐难题

ICML 2026 | 将多教师冲突转化为动态约束,破解多模态大模型推理对齐难题

在多模态大模型(MLLM)快速发展的浪潮中,融合多模型 “集体智慧” 已成为提升模型性能的关键路径,并催生了多教师知识蒸馏这一主流范式。然而,不同来源的教师模型在架构与优化上的差异,其在相似推理过程中呈现出不稳定甚至偏移的认知轨迹,即 “概念漂移”(Concept Drift)。

来自主题: AI技术研报
7520 点击    2026-05-14 09:30
严肃聊聊,Skill到底能蒸馏我们的几分之几?|Hao好聊趋势

严肃聊聊,Skill到底能蒸馏我们的几分之几?|Hao好聊趋势

严肃聊聊,Skill到底能蒸馏我们的几分之几?|Hao好聊趋势

2026 年初,浙江大学发表了一篇系统性的 SoK 论文《Agent Skills for Large Language Models: Architecture, Acquisition, Security, and the Path Forward》,给Skill下了一个正式定义。

来自主题: AI资讯
8131 点击    2026-04-28 15:08
时薪 15 美元的新工种:把 iPhone 绑在脑门上,替 AI 蒸馏自己

时薪 15 美元的新工种:把 iPhone 绑在脑门上,替 AI 蒸馏自己

时薪 15 美元的新工种:把 iPhone 绑在脑门上,替 AI 蒸馏自己

你或许刷到了一段来自印度南部服装厂的视频。 工厂工人佩戴头戴摄像头,记录手部动作以训练人工智能系统。 这是因为随着特斯拉、Figure AI 等公司竞相开发人形机器人,训练它们所需的真实世界动作数据变

来自主题: AI资讯
9414 点击    2026-04-26 22:36
一个CLAUDE.md霸榜GitHub第一!蒸馏自Karpathy,6万码农抄作业

一个CLAUDE.md霸榜GitHub第一!蒸馏自Karpathy,6万码农抄作业

一个CLAUDE.md霸榜GitHub第一!蒸馏自Karpathy,6万码农抄作业

一个毫无代码的文本,竟连霸GitHub热榜第一。Karpathy的编程神技被化作「AI紧箍咒」,让乱写Bug的大模型瞬间老实!

来自主题: AI资讯
7228 点击    2026-04-21 16:16
都让让!赛博女娲蒸馏一切,让乔布斯马斯克集体给你打工

都让让!赛博女娲蒸馏一切,让乔布斯马斯克集体给你打工

都让让!赛博女娲蒸馏一切,让乔布斯马斯克集体给你打工

继skill同事之后,有聪明人迁移泛化了一下: 既然可以蒸馏任何人,那为什么不让乔布斯马斯克给我打工呢?

来自主题: AI技术研报
7963 点击    2026-04-21 09:22
这届打工人,白天给 AI 投毒,晚上蒸馏老板

这届打工人,白天给 AI 投毒,晚上蒸馏老板

这届打工人,白天给 AI 投毒,晚上蒸馏老板

办公室里,一排排工位整整齐齐,每个人对着屏幕敲敲打打,看起来和平常没什么两样。

来自主题: AI资讯
10114 点击    2026-04-14 08:41
蒸馏万物成skill,B站UP花叔开源的「女娲.skill」,一周 8k star

蒸馏万物成skill,B站UP花叔开源的「女娲.skill」,一周 8k star

蒸馏万物成skill,B站UP花叔开源的「女娲.skill」,一周 8k star

「小猫补光灯」的作者花生...啊不...这人改名叫花叔了...hhhh,又整了一个新活:一周 8000 多个 star

来自主题: AI技术研报
6559 点击    2026-04-13 10:13