《苦涩的教训》一页纸记忆法

Richard Sutton《The Bitter Lesson》2019 · 十字路口编译版 —— 四个领域逐一过堂,判出一堂总教训

# 一页纸记忆法 ·《苦涩的教训》

版本:v1.0 | 2026-10-17 | 输入源:Clippings 单篇(十字路口Crossing 编译,2019 原文 Richard Sutton) 四轴:主轴=一律→四判例→一苦→两教训(判例式)| 辨误=口号化(第 107 本·新方向)| 回路=定路线 7 步 | 锚点=10 个

① 中央总纲(30 秒版)

一句话:AI 七十年研究最重要的教训是——人类精心设计的领域知识,长期会输给能持续利用更多算力的通用方法(搜索 + 学习)。

一条主轴(判例式):

一律(算力成本指数下降)
  → 四判例:深蓝·搜索胜象棋 / AlphaGo·搜索+学习胜围棋
           / HMM·统计胜语音 / 端到端·学习胜视觉
  → 一苦(获胜的不是人类偏爱的方法)
  → 两教训(通用方法的力量 / 心智复杂性不可预先概括)

② 结构地图(5 分钟能画出)

本文形态=判例式:先立一条总教训,再像判例一样让四个领域逐一「过堂」,最后给出两堂终审。

段内容关键词
上拉长时间尺度摩尔定律;研究者默认算力不变,于是依赖领域知识
中四宗判例象棋(1997 深蓝)→ 围棋(2016 AlphaGo,晚约 20 年)→ 语音(70 年代 DARPA,HMM 胜)→ 视觉(SIFT 退出主流)
下苦涩之处与两教训短期有效、长期停滞;突破来自反方向

重复出现的历史过程(本文的「思维指纹」):写知识→短期有效→感觉良好→长期停滞→真突破来自扩大计算。

③ 核心锚点(10 个)

#锚点原文金句记忆问句
170 年总教训从长期看,最有效的,往往是能够不断利用更多算力的通用方法我的方法五年后还成立吗?
2摩尔引擎计算越来越便宜,单位算力成本长期呈指数下降我押的是成本下降的那一边吗?
3深蓝判例最终胜出的,是一个更简单的方案:大规模搜索我在用知识替代搜索吗?
4围棋判例大规模搜索真正奏效后,精心设计的知识不仅无关紧要,有时甚至拖累系统我的先验是助力还是拖累?
5语音判例统计方法再次战胜了依赖人工知识的方法我信专家直觉还是信数据?
6视觉判例现代深度学习只保留卷积和少量不变性假设我留下了多少可有可无的假设?
7苦涩本身成功之所以苦涩,是因为最终获胜的往往不是人们偏爱的、以人为中心的方法我能接受自己偏爱的路线输吗?
8两台发动机搜索和学习,是 AI 利用大规模计算的两类核心方法我有没有这两台发动机?
9元方法真正应该内置的,是能自行发现并捕捉复杂性的元方法我装的是答案,还是发现答案的机制?
10心理依恋投入太多后,研究者容易在心理上对它产生依恋我在捍卫方法,还是捍卫沉没成本?

④ 辨误器(方向:口号化——被读成「大力出奇迹」的战斗口号)

误读正解
苦涩教训=算力万能≠算力自动变强。算力只有被通用方法(搜索/学习)利用才转化为能力
=人类知识无用≠零价值。短期精巧方法常赢,Sutton 说的是时间尺度问题,不是价值判断
=速胜宣言恰是长期主义:把时间拉长几年才成立,短跑选手反而该用精巧方法
=物理铁律是 70 年的经验归纳,不是自然定律——归纳会随新范式修正
=只许堆卡不许创新原文反对的是「把心智复杂性预先简化」,不反对寻找更高效的通用方法

⑤ 行动回路(定路线 7 步)

问期限 → 看曲线 → 比方法 → 押通用 → 藏精巧 → 验进展 → 回一期

  1. 问期限:这件事跑几年?(短期精巧常赢,长期通用必胜)
  2. 看曲线:相关的成本/算力/数据曲线在不在下降?
  3. 比方法:特调精巧 vs 通用可扩展,各占什么位置?
  4. 押通用:选能持续利用增长资源的那条路线
  5. 藏精巧:领域知识降级为辅助,不把身家押在它上面
  6. 验进展:定期检查——进步来自我的设计,还是资源曲线?
  7. 回一期:回到第 1 步,重新校准时间尺度

⑥ 闭卷提取卡(6 题)

1. 用一句话讲清《苦涩的教训》。
2. 四宗判例分别是什么?各胜出的方法是什么?
3. 「苦涩」苦在哪里?
4. 两条终审教训分别是什么?
5. 「口号化」误读的最典型一条是什么?
6. 拿你手头一个真实决策,走一遍「定路线 7 步」。

复述节奏:当天闭卷画地图 | 次日答闭卷题 | 第 7 天完整复述 | 第 30 天用真实问题走回路。

⑦ 蒸馏说明(不占 A4)

与相邻方向的边界:口号化(本页)=防把苦涩教训读成「大力出奇迹」的战斗口号;德目化(《尼各马科伦理学》)=防把亚氏当德目清单背。本页是长时段的判例层(把时间拉长,通用方法才显形),不是《尼各马科伦理学》的一生尺度层,也不是《21 世纪资本论》的两百年弧线——都是「别用短期结论下长期判断」,并列,不是主次。
诚实边界:本页依十字路口 Crossing 编译版单篇整理,原始出处为 Richard Sutton《The Bitter Lesson》(2019);延伸评注(如效率创新改写成本曲线)属编译者与后人意见,非 Sutton 原文,引用须区分。本文是 70 年的经验归纳,不是自然定律,也不构成对具体技术路线的投资建议。
一页纸记忆法 · 阅读书目 · 返回首页
© 2026 龙哥读书笔记 · 京ICP备2026068557号
本站使用百度统计了解访问情况,统计数据仅用于改进内容。