能力与局限

你将学到什么

通过本课学习，你将能够：

• 识别当前生成式AI的主要能力和局限

能力与局限

(7分钟)

本视频探讨了现阶段生成式AI擅长和不擅长的领域。我们重点展示了生成式AI在语言任务中的多功能性、保持对话连贯的能力，以及无需额外训练即可切换不同任务的特点。同时也指出了包括知识截止日期、幻觉输出（事实性错误）、上下文窗口限制和推理挑战等局限性。我们强调该领域正在快速发展，并说明最有效的应用是将人类与AI的互补优势相结合。

核心要点

• 生成式AI创造新内容（文本、图像、代码）而非仅分析现有数据
• 现代系统如LLM的实现依赖于三大关键发展：
• 算法与架构突破（特别是transformer架构）
• 海量数字训练数据
• 计算能力的显著提升
• 生成式AI通过两个阶段学习：预训练（分析数十亿样本中的模式）和微调（学习遵循指令并提供有用响应）
• 当前能力包括跨任务多功能性、对话连贯性，以及与外部工具的连接能力
• 当前局限包括知识截止日期、可能产生幻觉输出、上下文窗口限制和复杂推理挑战
• 最有效的应用结合人类与AI优势，由人类提供批判性思维、判断力、创造力和伦理监督

练习

思考

在继续之前，请思考：

• 理解生成式AI的技术基础（如训练数据和预训练/微调）如何改变你与这些系统协作的认知？
• 了解这些系统的工作原理和当前局限后，你联想到哪些伦理考量？

后续内容

下一课我们将深入探讨4D能力中的第一项：任务委派。你将学习如何基于对自身目标和AI能力的理解，做出关于人机分工的战略决策。这个基础将帮助你审慎决定何时以及如何将AI融入创意和问题解决流程。

反馈

在学习过程中，我们期待了解你如何将课程概念应用于生活、工作或课堂，以及任何反馈建议。点击此处分享反馈

版权声明

_版权2025 Rick Dakan, Joseph Feller及Anthropic。采用CC BY-NC-SA 4. 0许可协议发布。_ 本课程基于Dakan和Feller提出的AI流畅度框架。 部分支持来自爱尔兰高等教育管理局通过国家教学与学习促进论坛提供。