EMNLP 2026 | 大模型解码不能只看概率,人大团队引入语义冗余
EMNLP 2026 | 大模型解码不能只看概率,人大团队引入语义冗余中国人民大学代文林、孟澄研究员团队提出的ME-Decoding方法被EMNLP 2026接收,该方法在解码时同时利用token概率与embedding相似度,从集合层面筛选低冗余候选token,在GSM8K和GPQA上取得所比较方法中最高的平均准确率,端到端GPU延迟仅增加约3%。
来自主题: AI技术研报
7262 点击 2026-09-30 11:07