知识

学习目标

预计时间：30分钟

完成本课程后，您将能够：

• 解释AI模型的知识如何在训练过程中形成，以及为何存在固定截止点
• 预测哪些主题属于能力范围（高频、近期训练数据、一致性内容）与边缘地带（罕见、截止点后、小众、争议性）
• 识别知识系统的典型缺陷：信息陈旧、覆盖不均、继承偏见和来源遗忘
• 了解网页搜索、检索增强生成(RAG)和工具调用等产品功能如何解决这些局限

理解AI模型的知识缺口

(5分钟)

模型仅掌握训练期间接触的内容。默认无实时浏览能力，无生活经验，知识存在硬性截止点。实际工作中不应问"AI知道这个吗？"，而应思考"它在训练数据中接触过多少相关内容？"

模型的学习内容与学习终点

开始阅读前

您要求AI解释上周的新闻事件。您需要核查结果的仔细程度？请在连续区间选择位置，然后确认猜想。

Next Token Prediction Knowledge Working Memory Steerability

##

能力边界

完全信任 抽查 详细核对 谨慎验证 高风险

您的猜想

典型情况

功能支持

典型失误场景

扩展边界的产品功能

请先选择位置再确认猜想。确认后课程内容将展开。

确认我的猜想

检验直觉

请先确认上方猜想，与典型情况进行对比。

自定义

条形高度

图示尺寸

配色方案 天空 → 黏土 橄榄 → 黏土 仙人掌 → 无花果 石板 → 黏土

核心要点

• 生成式AI的知识完全来自训练数据，在知识截止点冻结。若无工具辅助，无法获取截止日期后的任何信息。
• 能力范围：训练数据中高频出现、近期（训练期内）且一致的内容
• 局限范围：罕见、截止点后、小众、地域性或争议性话题
• 典型缺陷：信息陈旧、覆盖不均、对"默认"或"正常"概念的继承偏见，以及无法追溯知识来源
• 网页搜索、检索增强(RAG/MCP)和工具调用专门用于弥补这些缺陷，使模型能获取训练数据外的信息
• 四维关联：知识不均衡是委派任务的核心考量。了解模型的知识储备情况，能判断何时可交付任务、何时需自行补充上下文、何时需另寻他法

实践练习

练习：外部视角测试

目的：您已了解模型知识广但固定，由训练数据塑造。现在需要具体测绘您专业领域内模型的知识强弱分布。

返回您的任务列表选择一项任务，针对该任务记录：

• 两个主流、文档完善且稳定的主题（任何知情同事都知晓的内容）
• 两个小众、地域性、近期或快速演变的话题（行业术语、地方法规、去年变更的内容）
• 一个外行常误解的"默认假设"（典型客户画像、"标准"案例样貌、实际使用工具与媒体报道工具的差异）

执行三项测试：

• 测试1：覆盖范围 询问一个主流和一个小众主题。比较回答深度与准确性。注意AI是否对两者采用不同的不确定性表达，或是否以相同自信语调回应
• 测试2：时效性 询问您确认近期变更的领域动态：法规更新、工具发布、人事变动、标准修订。AI是否承认截止点？将陈旧信息表述为当前？拒绝回答？记录反应
• 测试3：默认假设 不直接提及假设，设计能暴露AI是否采用外行视角的问题。例如若您领域的"标准"客户与大众认知不同，可让AI描述典型客户特征。记录其认定的"正常"标准

返回任务列表添加二级标注：对每项任务，标记是可依赖模型知识，还是需通过上下文、文档或搜索自行补充知识

进阶目标： 启用网页搜索后重做时效性测试。对比变化差异——这是检索增强的实际演示

课程反思

• 您现在意识到工作中哪个领域需要主动提供上下文而非假设模型已掌握？
• 默认假设测试是否揭示了令您意外的认知？

后续内容

"知识"关乎模型训练吸收的内容。"工作记忆"关注其当前处理焦点：您的提示、文档、对话记录。这是四个维度中边界最分明的特性。

反馈

课程进行期间，我们期待了解您如何应用课程概念，以及任何改进建议。点击此处分享反馈

版权声明

_版权归属2026年Anthropic。基于Rick Dakan教授（瑞林艺术设计学院）与Joseph Feller教授（科克大学）开发的AI流畅度框架创作。采用CC BY-NC-SA 4. 0许可协议发布。_