本期播客 EP23 聚焦于 Geoffrey Hinton 的理论，旨在阐述人工智能与人类心智之间并无本质区别。
主持人为重轻。
本期节目回顾了 Geoffrey Hinton 的演讲《What Is Understanding? (IASEAI 2025)》。
节目中还提到了以下相关内容：
- AI 似乎能意识到自己正在被测试，Anthropic 的 Claude 3 因此引起关注。
- 有 AI 系统因被告知将遭移除而采取要挟手段。
- Noam Chomsky 的普遍语法理论，以及刺激贫乏理论。
- 通过反向传播误差学习表征。
- 注意力机制（机器学习领域）。
- 学习概念的分布式表征。
- 关于 ChatGPT 的运作机制及其有效性的探讨。
- John Dean 的记忆案例。
- N-Gram 语言模型。
- 印刷英语的预测与熵。
- 知识蒸馏。
节目的封面由重轻拍摄。
播客“诗梳风”由汉洋和重轻联合主持，如有合作意向，请发送邮件至 [email protected]。
节目时间戳要点：
- 00:00:07 介绍了 Hinton 演讲《何为理解》的背景信息。
- 00:01:41 明确了本期节目的目标是详细复述该演讲内容。
- 00:03:24 讨论了评估 AI 风险需要先证明其能力和动机。
- 00:09:20 探讨了何种程度的证据才能称得上“真正理解”。
- 00:11:55 区分了 AI 的两大主要流派：逻辑派和连接派。
- 00:13:39 连接派认为智能的核心在于学习能力。
- 00:17:03 提及了乔姆斯基的“刺激贫乏”理论。
- 00:19:59 指出 Hinton 对乔姆斯基缺乏含义模型的批评。
- 00:23:09 以猫狗性别联想为例，说明底层特征向量的作用。
- 00:26:39 回顾了 1985 年的家谱模型，并将其视为大语言模型的早期雏形。
- 00:31:06 使用乐高积木来类比“理解”的含义。
- 00:35:33 举例说明“机器放不进行李箱”的场景。
- 00:41:30 强调大语言模型并非简单的自动补全。
- 00:44:29 建议将 AI 的“幻觉”现象更准确地称为“虚构”。
- 00:50:14 总结理解即建模，并指出学习需要借助“异物”。