单向VLM变双向！人大斯坦福等提出MoCa框架：双向多模态编码器
单向VLM变双向！人大斯坦福等提出MoCa框架：双向多模态编码器MoCa框架把单向视觉语言模型转化为双向多模态嵌入模型，通过持续预训练和异构对比微调，提升模型性能和泛化能力，在多模态基准测试中表现优异，尤其小规模模型性能突出。
来自主题: AI技术研报
8675 点击 2025-07-11 10:09
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
MoCa框架把单向视觉语言模型转化为双向多模态嵌入模型，通过持续预训练和异构对比微调，提升模型性能和泛化能力，在多模态基准测试中表现优异，尤其小规模模型性能突出。
「哈喽，可以听到吗？」北京时间上午 10 点，大洋彼岸的 Pokee.ai 创始人朱哲清接通了我们的连线电话，此刻他正位于美国西海岸，当地时间为前一日晚上 7 点。「哈喽，可以听到吗？」北京时间上午 10 点，大洋彼岸的 Pokee.ai 创始人朱哲清接通了我们的连线电话，此刻他正位于美国西海岸，当地时间为前一日晚上 7 点。
谷歌、斯坦福等陆续推出「AI科学家」，协助人类科学家推动科研范式革新。科学家亲身试用后或震惊其洞察之深，或质疑其缺乏灵感与人性温度，AI能代替人类思考吗？
近期，他与合作者创建了名为 EVO 2 的生物学基础模型，该模型通过学习生命的基础信息层——DNA，来解释和生成跨所有生命领域的基因序列。
生物医学研究是我们进行人类健康研究、疾病治疗、药物研发以及促进临床护理进步的基石。
细胞治疗，尤其是CAR-T，被誉为“活的药物”，但其开发与生产面临着一个根本性挑战：我们难以精准控制和预测这些活细胞在人体内的最终状态和功能。同一批次生产的CAR-T细胞，有的能高效清除肿瘤，有的却迅速“耗竭”，这种功能异质性是制约疗效、导致高昂制造成本的核心瓶颈。如何通过基因编辑等手段，将细胞调整到最理想的“战斗”状态，是该领域亟待突破的圣杯。
具身智能太过火热，今天又一个亿级融资，砸向机器人领域。
斯坦福大学 2025 年春季的 CS336 课程「从头开始创造语言模型（Language Models from Scratch）」相关课程和材料现已在网上全面发布！
大语言模型在数学证明中常出现推理漏洞，如跳步或依赖特殊值。斯坦福等高校团队提出IneqMath基准，将不等式证明拆解为可验证的子任务。结果显示，模型的推理正确率远低于答案正确率，暴露出其在数学推理上的缺陷。
随着语言模型在强化学习和 agentic 领域的进步，agent 正在从通用领域快速渗透到垂直领域，科学和生物医药这类高价值领域尤其受到关注。