AI
AI 电商基础 入门课
第一篇章 · 电商 AI 认知底座
交互 免费公开课 第 04 / 11 节
上下文窗口：AI 的“工作记忆”
客服 AI 聊着聊着就忘了客人说过的话？不是它偷懒，是它的“脑子”只有那么大，装不下就扔。
交互概念8 分钟
从客服翻车现场说起
这个场景你肯定不陌生：客人一上来就问“我是敏感肌，孕妇能用吗？”，AI 客服热情接待，聊了十几轮，又是推荐又是算满减。最后客人说“那就按刚才说的，选敏感肌能用的那套”，AI 回了一句：“亲，我们家所有产品都很好呢，您看上哪款啦？”
客人当时就火了：我第一句就说了敏感肌，你跟我聊了半小时白聊？
这就是上下文窗口溢出。AI 的“工作记忆”是一块固定大小的白板：对话每增加一轮，就往白板上多写几行；白板写满了，最早的内容就被擦掉，给新内容腾地方。客人最关键的那句话，往往就是最先被擦掉的。
上下文窗口溢出模拟器
对话轮数 4 轮；窗口内 8 条
店规（System Prompt） | 早期对话（将被挤出） | 最近对话
你好，我是敏感肌，孕妇，想买套温和的水乳，有推荐吗？您好呀～敏感肌和孕期护肤确实要特别小心，我帮您看看温和系列……预算 300 以内吧没问题，300 以内可以配齐水+乳，我再帮您凑个满减……赠品有吗？现在下单送小样三件套哦～物流发哪家？默认中通，急件可以补差价发顺丰。
白板已满！客人第 1 轮说的“敏感肌”被挤出去了——现在问 AI，它已经“不记得”这个关键信息了。
看懂白板上的三个区域
- 店规区（System Prompt）：永远钉在白板顶上，不会被挤掉——这就是为什么重要的规矩要写在这里，而不是在对话里说。
- 早期对话区：先进先出，对话越长，越早的内容越先被擦。客人的核心诉求、你随口交代的重要背景，都死在这。
- 最近对话区：AI 的注意力天然偏向这里，所以它“记得住刚才，记不住开头”。
不同模型，白板大小差很多
白板大小就是常说的“上下文长度”，计量单位是 Token：廉价小模型通常只有 8K（按每页六七百汉字算，大概十几页文档）；主流模型 32K‑128K；旗舰大模型可以做到 100 万 Token。但注意两个坑：
- 大白板 ≠ 记得牢：窗口越长，AI 对中间内容的注意力越涣散（“中间遗忘”现象），关键信息埋在第 80 页跟丢了差不多。
- 大白板 = 大账单：每一轮对话，整个白板内容都要重新计费一遍。客服对话拖到 20 轮，后面每轮都在为前面 19 轮的内容重复付费。
电商实战的三条对策
- 关键信息上墙：客人身份、禁忌、核心诉求，一旦识别到就写进 System Prompt 或专门的状态区，别让它躺在对话流水里等死。
- 长对话定期“交班”：聊到一定轮数，让 AI 把前面的要点总结成一段摘要，新开一局接着聊——这就是后面会讲的“上下文压缩”。
- 别给 AI 看无关流水：查个物流而已，不用把过去三天的聊天记录都塞给它。喂得越少越准，还越省钱。
📌 本节要点
- 上下文窗口 = AI 的工作记忆白板：大小固定（按 Token 算），写满就擦最早的。
- System Prompt 区永不掉：重要规矩写这里，别写在对话流水里。
- 大窗口有两大坑：中间遗忘 + 每轮重复计费，不是越大越好。
- 实战三对策：关键信息上墙、长对话定期摘要交班、只喂相关内容。