吃“有毒”数据，大模型反而更听话了！来自港科大&华为诺亚方舟实验室
吃“有毒”数据，大模型反而更听话了！来自港科大&华为诺亚方舟实验室相比于一味规避“有毒”数据，以毒攻毒，干脆给大模型喂点错误文本，再让模型剖析、反思出错的原因，反而能够让模型真正理解“错在哪儿了”，进而避免胡说八道。
来自主题: AI技术研报
3820 点击 2023-10-26 20:25
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
相比于一味规避“有毒”数据，以毒攻毒，干脆给大模型喂点错误文本，再让模型剖析、反思出错的原因，反而能够让模型真正理解“错在哪儿了”，进而避免胡说八道。
昨天，Baichuan2-53B正式发布！首次开放API，意味着百川大模型开始正式进军商用了。另外，模型的数学和逻辑推理能力都大幅飙升，对于幻觉的处理，已经在国内遥遥领先。
大规模语言模型在众多下游任务中展现了惊人的能力，但它们在使用中仍然暴露了一些问题。其中，幻觉是目前影响大模型落地的重要问题之一。