AI能力与局限

学习目标

预计时间：25分钟

完成本课程后，您将能够：

• 定义生成式AI及其与其他AI类型的区别
• 认识生成式AI的关键特征与技术基础
• 识别当前生成式AI的主要能力与限制

什么是生成式AI？

(12分钟)

本视频将介绍Claude等大型语言模型的构建与训练方式，以及这对您在企业中实际应用它们时可能实现和无法可靠实现的功能意味着什么。

核心要点

• 生成式AI能够创造新内容，而不仅仅是分析现有数据
• 三大技术进步使现代LLM成为可能：Transformer架构、海量训练数据和强大的计算能力
• 训练分为两个阶段：预训练（从数十亿样本中学习模式）和微调（学习如何有效遵循指令）
• 当前优势包括多任务通用性、流畅对话能力以及与外部工具的连接
• 当前局限包括知识截止日期、幻觉问题、上下文窗口大小限制和复杂多步推理能力
• 最佳应用方案是结合人类与AI优势——将您的判断力、创造力和监督能力与AI的速度和规模相结合

实践练习

测试边界

本练习让您亲身体验生成式AI的优势与不足。您将通过自己熟悉的领域内容，以低风险方式验证视频中提到的具体能力与限制，从而在决定AI适用场景时获得基于实际观察的直观判断。

第一部分：自我反思（独立完成）

选择一个您非常熟悉的领域——在这个领域中，如果供应商、客户或合作伙伴出现错误，您能立即发现。请记录：

• 主题（例如：您的利润率计算、当地分区法规或行业许可要求）
• 两三个任何可靠来源都应掌握的基本事实
• 人们对此常见的误解
• 该领域中确实难以解释清楚的一个方面

这将成为您的测试场。您将验证AI如何处理您实际能够核实的内容。

第二部分：协作测试（与AI互动）

打开与Claude（或您偏好的任何AI助手）的对话窗口，进行三次快速对话。每次对话后记录您的观察：

• 通用性测试。要求AI在单次回复中用三种不同方式解释您的主题：面向完全不了解您服务的客户、潜在商业合作伙伴以及新入职员工。不同受众的表述差异是否真实有效，还是仅仅改变了用词？哪个版本最出色？
• 幻觉测试。要求AI推荐两三个与您主题相关的具体资源——行业协会、行业出版物、监管机构或知名供应商。然后至少核实其中一个。该组织是否存在？网站信息是否正确？联系方式是否准确？（这将验证AI是否会自信地编造听起来合理实则虚假的信息来源）
• 知识截止+推理检查。询问AI一个时效性或地域性强的问题：您行业的最新法规变化、关键材料的当前价格趋势或当地许可要求。它是否告知信息可能过时？是附加免责声明、猜测，还是将陈旧信息当作最新资讯呈现——这类错误可能导致实际经济损失？接着让它分析您在第一部分记录的常见误解。它是否真正解决了困惑，还是仅仅复述了正确事实？

第三部分：反思

视频中提到的哪种能力在您的测试中表现最明显？暴露出哪些局限——如果不是您熟悉的主题，您能发现这些问题吗？基于此，您现在会放心交给AI处理哪项任务，又会对哪项任务保持更密切的关注？

进阶目标：用同一主题测试另一个AI工具（不同模型或平台）。出现的错误和优势是否相同？

课程反思

• 了解这些系统的训练方式将如何改变您与它们的协作方式？
• 考虑到生成式AI的工作原理和局限，会引发哪些伦理考量？

后续内容

接下来是通过实践探索语言模型实际如何生成文本的动手活动，这将生动展现您刚学到的知识。

反馈

随着课程进展，我们很希望了解您如何将课程概念应用于工作，以及您可能有的任何反馈。点击此处分享您的反馈。

版权声明与许可

_版权2026 Anthropic。本课程是与PayPal、Prospect Butcher和MAKS Enterprises TIPM Rebuilders合作开发，基于Rick Dakan教授（瑞格林艺术设计学院）和Joseph Feller教授（科克大学）开发的AI流畅性框架。采用CC BY-NC-SA 4. 0许可协议发布。_