一种生成式人工智能模型的上下文输入处理方法

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种生成式人工智能模型的上下文输入处理方法
申请号:CN202510195933
申请日期:2025-02-21
公开号:CN120106219A
公开日期:2025-06-06
类型:发明专利
摘要
本发明属于人工智能技术领域,具体涉及一种生成式人工智能模型的上下文输入处理方法,基于生成式大模型的输出消息构建消息链,从而构建历史上下文消息输入到大模型中。当消息链消息节点数超过大模型最大上下文窗口时,基于消息链的节点消息摘要创建新的消息链。构建历史上下文消息时,直接获取当前消息链上的节点消息作为大模型输入的历史上下文消息,如果大模型的输出参考了历史上下文消息,逆向反推得到第一消息链对应的消息组,再以第一消息链对应的消息组构造上下文再次输入到大模型,让大模型再次进行生成。避免了上下文消息丢失或截断,在处理多轮任务时能够充分捕捉关键信息和语义管理,从而提升生成质量。
技术关键词
人工智能模型 上下文管理 模块 摘要 文本 索引 可读存储介质 人工智能技术 更新消息 处理器 计算机设备 节点数 存储器 定义 语义 格式