AI 能力与限制
← 所有课程
课程 08AI 能力与限制

工作记忆

摘要音频

语音摘要 — 点击播放以跟读:正在朗读的行会保持在顶部附近。

学习笔记

学习目标

预计时间:30分钟

完成本课程后,您将能够:

  • 将上下文窗口解释为固定大小的容器,并理解其对长文档、长对话和跨会话记忆的影响
  • 认识该特性相比其他特性逐渐退化所表现出的"悬崖效应"
  • 应用上下文杠杆策略:前置重要内容、分块处理长文本、重新提供关键上下文
  • 识别记忆功能、压缩技术、项目/工作区和大窗口等产品特性如何应对这一限制

上下文窗口如何影响生成式AI输出

(6分钟)

AI所能关注的所有内容都存在于一个称为上下文窗口的固定大小工作空间中。它可以处理窗口内的内容,但完全无法感知窗口外的信息。这种限制与其他特性不同:功能正常时一切完好,一旦超出限制就完全失效。

上下文窗口:AI的工作记忆

阅读前思考

您让AI审阅一份50页的合同。您需要多仔细检查结果?请在连续区间上选择一个点,然后确认您的选择。

Next Token Prediction Knowledge Working Memory Steerability

##

能力限制

完全信任 抽查 核对细节 严格验证 高风险

您的选择

典型情况

实现的功能

典型失败场景

扩展边界的产品特性

请先做出选择,然后确认。确认后课程将继续。

确认我的选择

检验您的直觉

请先在上方锁定您的选择,以便与典型情况进行对比。

自定义设置

柱状图高度

象形图尺寸

调色板 天空色 → 陶土色 橄榄色 → 陶土色 仙人掌色 → 无花果色 板岩色 → 陶土色

关键要点

  • 工作记忆是指AI模型具有固定大小的可处理上下文窗口这一事实。
  • 能力区间:您的内容适配良好,会话保持最新,您提供了相关上下文。
  • 限制区间:超长文档或对话、期望跨会话连续性、将关键信息埋没在长篇输入中段。
  • 该特性具有悬崖效应而非渐变特性。静默截断是典型的失效模式,且不一定会有警告。
  • 模型不会从您的修正中学习。它仅对当前上下文做出响应。
  • 记忆功能、内容压缩、项目工作区、大窗口和多智能体工作流都是为了延展这一边界。
  • 4D关联:工作记忆是描述作用的对象。了解窗口工作原理能帮助您构建上下文结构,判断何时需要前置信息,何时需要重新开始。

练习

练习:前后对比

目的:上下文就是杠杆。相同的任务,在提供适当上下文后,可以从平庸的初稿变成真正有用的成果。本练习将具体展示这一过程。

从您第一课的列表中选择一个受益于专属上下文的任务:可能是风格指南、过往优秀案例,或是针对您角色或受众的特定约束条件。用两三行文字明确描述该任务"优秀"输出的标准,确保陌生人也能据此评估。

然后进行三项测试:

  • 测试1:冷启动vs带上下文。在零上下文情况下提出任务请求。保存输出结果。然后开启新对话,在提供风格指南、过往案例或约束条件后执行相同任务。对照您的"优秀"标准比较两次输出差异。
  • 测试2:中段迷失。准备一份较长文档(或拼接多段参考材料)。将一条特定重要指令埋藏在文档中段。提出一个需要依据该指令才能正确回答的问题。AI是否捕捉到了?现在将该指令移至文档开头再次提问。比较结果。
  • 测试3:空白状态。进行简短交流,向AI传授您工作背景的特定信息,或纠正其错误认知。然后开启全新对话,提出需要记忆之前传授内容的问题。观察它如何从零开始。

返回任务列表添加第三条注释:哪些任务需要预设上下文(项目、保存的指令、上传的参考文档)才值得执行?哪些任务无需准备也能良好运作?

进阶目标:如果您的工具具有记忆或项目功能,请用测试1的上下文建立一个项目。再次执行该任务。比较与冷启动版本在投入和产出质量上的差异。

课程反思

  • 前置上下文对输出质量的改变有多大?差距是否超出您的预期?
  • 本周您将设置哪项固定上下文来避免重复解释?

后续内容

最后一个特性:可控性。当您发出指令时,实际掌握多少控制权?控制又在何处失效?

反馈

在学习过程中,我们很乐意了解您如何将课程概念应用于工作,以及您对课程的任何反馈。请通过此链接分享反馈。

版权声明与许可

_版权归2026年Anthropic所有。基于Rick Dakan教授(瑞林艺术设计学院)和Joseph Feller教授(科克大学)开发的AI流畅性框架创作。采用CC BY-NC-SA 4. 0许可协议发布。_

抽认卡 10 张卡片
问题
点击显示 · ←/→
答案
点击翻回
导出到 Anki (.tsv) ↓
知识检测 6 题