首页   

模型的记忆是权重。通常我们所说AI聊天的记忆就是把以前说过的话重-20250113084359

宝玉xp  · AI  · 2 天前

正文

2025-01-13 08:43

模型的记忆是权重。通常我们所说AI聊天的记忆就是把以前说过的话重新发给 AI,内容少就发原话,内容多就摘要了再发。//@Goliard:回复@宝玉xp:感谢解释啊,所以我没理解错的话模型只负责根据输入生成输出结果,要有所谓的记忆是不是就需要调整权重文件了?另外再请问一下那对话里面的记忆是怎么做到的呢?
问:现在AI是否能做到记忆能力?比如我五天前给他设定了一个角色,并且请他解答了一些问题。那么五天后是否还能再次基于五天前的问答继续提问?(这可能是一个功能:设定角色,保存角色,基于这个角色的对话可以选择是否保存。这是不是需要有很长的token去支持?是否建议这样去做?)

答:现在 ChatGPT 支持记忆功能,但是需要在设置里面大概,本质上就是把你对话的内容用简短的话摘要保存下来,下次你提问时带上。

如果你之前设置了一个角色解答了一些问题,后续还想继续在同一会话问问题,你当然还可以继续之前的会话提问,角色也能保持,也能延续之前的对话风格,但是在于一些推理要求比较高的任务可能新开会话效果会更好,因为这样虽然角色和风格可以延续,但是上下文窗口无关内容太多,会影响生成质量。建议适当的时候,可以把角色设定和部分对话作为样例(few-shot)放在提示词中新开会话更好。更多细节可以参考《和 AI 对话多少轮之后重开新的会比较合适?》网页链接
© 2024 精读
删除内容请联系邮箱 2879853325@qq.com