今天要讲的On-Policy Distillation（同策略/在线策略蒸馏）。这是一个Thinking Machines整的新活，这个新策略既有强化学习等在线策略方法的相关性和可靠性；又具备离线策略（Off-policy）方法的数据效率。
今天推荐一个 Dense Image Captioning 的最新技术 —— CapRL (Captioning Reinforcement Learning)。CapRL 首次成功将 DeepSeek-R1 的强化学习方法应用到 image captioning 这种开放视觉任务，创新的以实用性重新定义 image captioning 的 reward。
刚刚，OpenAI宣布已完成资本结构重组。这就意味着，OpenAI上市的道路已经铺平，而软银前几天刚批准的225亿美元投资，也将顺利到账。具体来说，OpenAI重组后，非营利主体（即原本的OpenAI Nonprofit）改名为OpenAI Foundation，继续掌控营利实体——
近期，DeepSeek-OCR提出了“Vision as Context Compression”的新思路，然而它主要研究的是通过模型的OCR能力，用图片压缩文档。
刚刚，不发论文、爱发博客的 Thinking Machines Lab （以下简称 TML）再次更新，发布了一篇题为《在策略蒸馏》的博客。在策略蒸馏（on-policy distillation）是一种将强化学习 (RL) 的纠错相关性与 SFT 的奖励密度相结合的训练方法。在将其用于数学推理和内部聊天助手时，TML 发现在策略蒸馏可以极低的成本超越其他方法。
近日，来自普渡大学、德克萨斯大学、新加坡国立大学、摩根士丹利机器学习研究、小红书 hi-lab 的研究者联合提出了一种对离散扩散大语言模型的后训练方法 —— Discrete Diffusion Divergence Instruct (DiDi-Instruct)。经过 DiDi-Instruct 后训练的扩散大语言模型可以以 60 倍的加速超越传统的 GPT 模型和扩散大语言模型。
十月，《纽约时报》发表了题为《The A.I. Prompt That Could End the World》（《那个可能终结世界的 AI 提示词》）的文章。作者 Stephen Witt 采访了多位业内人士：有 AI 先驱，图灵奖获奖者 Yoshua Bengio；以越狱测试著称的 Leonard Tang；以及专门研究模型欺骗的 Marius Hobbhahn。
近两年，AI笔记成为AI应用落地的重点方向之一。随着大模型能力不断升级，AI笔记不再只是帮用户“写下东西”，而是试图理解、整理、提炼、甚至帮用户“思考”所记录下的内容。市场上AI笔记产品繁多，既有印象笔记、Notion AI这样加入AI能力的传统笔记产品，也有闪念贝壳、喵记多这样的AI原生笔记产品，甚至还有飞书文档这样将AI笔记功能嵌入办公套件的综合性产品。
刚刚，计算机科学家 Yoshua Bengio 创造了新的历史，成为 Google Scholar 上首个引用量超过 100 万的人！打个直观的比方，如果我们将每一篇引用论文打印成册（假设平均厚度为 1 毫米），然后将它们垂直堆叠起来，这座由知识构成的纸塔将高达 1000 米。这是什么概念？它将轻松超越目前的世界最高建筑，即 828 米的迪拜哈利法塔。
长期以来，扩散模型的训练通常依赖由变分自编码器（VAE）构建的低维潜空间表示。然而，VAE 的潜空间表征能力有限，难以有效支撑感知理解等核心视觉任务，同时「VAE + Diffusion」的范式在训练
