3.3 什么是上下文和上下文窗口?
模型回答时能够参考的当前信息叫作上下文(context)。它可能包括你的当前问题、之前的对话、上传的材料、产品给出的规则,以及工具刚返回的结果。
可以把上下文想成 AI 此刻的工作台。放在台面上的信息可以参与当前任务;没有放上去的私人事实,AI 不会自动知道。
正在加载交互实验...
正在加载概念检查...
上下文窗口有容量
上下文窗口(context window)是模型一次能够处理的上下文容量。它通常用 Token 衡量,而不是按页面数计算。不同模型和产品的容量不同,产品也可能对长材料进行截取或摘要。
对话变得很长时,早先信息可能不再被完整使用。于是 AI 可能忘记你一开始说过“不吃花生”,或继续沿用已经改变的任务目标。这不是故意违抗,而是关键信息没有留在当前可用内容中。
正在加载交互实验...
正在加载概念检查...
可靠做法是把关键限制写在靠近任务的位置,长对话阶段性总结,换新对话时提供一份必要背景。上下文越长并非越好:相关、明确、没有矛盾的信息比杂乱堆积更有用。
聊天历史、产品“记忆”与上下文也不是同义词。历史记录可能被保存,但不代表每条历史都在当前上下文里;记忆功能是否存在、保存什么,应查看具体产品设置。
正在加载本节练习...
正在加载本节练习...