DEEPREAD / 近期阅读

近期阅读 · 第八期

2026-10-29 · 4 本 · 约 2,862 字

本期书目

这一期的四本书,像一场没有主持人的辩论。两个人是同一个作者,隔了十三年,第二次发言时把时间表又往前挪了;第三个人专挑最坏的可能算账;第四个人是宇宙学家,最后把问题原封不动地推回给我们:你到底想要什么? 四本读完,我对「人工智能会不会取代人」这个问题反而没那么焦虑了——因为真正有用的东西不在结论里,在它们各自用的那套思维工具里。

《奇点临近》封面

01用线性直觉看指数,就像用算盘算量子计算机

《奇点临近》

《奇点临近》出版于二十年前,作者库兹韦尔是发明家出身,不是学院里的未来学家。他全部论证的地基只有一条:技术不是线性前进的,是指数前进的——范式转移的间隔越来越短,每一次带来的变化越来越大。他给的时间表很具体:2029 年机器达到人类水平的语言能力,2045 年到达「奇点」——那时人类智能与非生物智能融合,之后的变化快到我们无法想象。他还画了一条更长的线,把宇宙史分成六个纪元:从原子传递信息,到基因存储信息,到大脑处理信息,到技术外置信息,到人机融合,最后是智能充满宇宙。他把这六段说成同一件事的连续展开——宇宙是一台正在启动的计算机。

这本书最值钱的不是 2045 这个数字,是那句提醒:人低估指数,是因为人只会用线性直觉。你今天觉得「人工智能不过如此」,很可能和当年觉得「网络购物成不了气候」是同一种错觉。

但它也有硬伤,而且是地基级别的。第一,它对「意识」处理得太轻:意识为什么会产生主观体验,这个最难的问题,它用「模拟过程就会涌现」一句话带过,把哲学问题直接当成了工程问题。第二,把一条上升曲线的势头无限外推,等于把局部经验当成宇宙规律——芯片逼近原子尺度,摩尔定律自己就会先失效。第三,这本书的叙事结构其实很像一部技术版的末世预言:有日期、有应许之地、有考验、有得救的条件。他自己未必意识到,但读者应该意识到。

《奇点更近》封面

02预言家又看了一遍表,然后把指针往前拨了

《奇点更近》

十三年后,库兹韦尔写了《奇点更近》。同一套指数逻辑,但语气更急:时间表不是往后推,是往前挪。 他新增的部分,是把三样技术放到一起看——基因技术、纳米技术、机器智能,他认为三者在奇点之前会汇合,一起改写生老病死。所以这本书比上一本更具体,也更像一个工程师的进度汇报。

书里最动人的细节不在论证里,在作者自己身上:他每天吃一百多颗补剂,公开说自己是在争取活到奇点那一天。他也承认,速度一旦越过某条线,人是理解不了那种变化的——他给这种状态起了个名字叫「动态均衡」,意思是只能跟它一起变,不能再站在岸上看。一个八十岁的人,用身体给自己的理论做担保。这件事你可以当成笑话,也可以当成敬意——但不管你选哪个,它都提示了一件事:他的判断和他的愿望,是长在一起的。

这也正是我最想留的那句自留话:一位预言家反复修正预言,可能是在更新数据,也可能是在加固信念,外人很难分清。所以读他的书,最稳的姿势是——把「什么时候」当参考,把「什么在加速」当事实。至于 2045,交给时间。

《超级智能》封面

03最危险的不是恶意,是不在乎

《超级智能》

波斯特洛姆的《超级智能》是这四本里最让人睡不着的。它不讨论技术路线,只做一件事:把风险一层层拆开算。

他的第一个洞见是:「意愿问题」比「能力问题」更要命。 我们脑子里那个机器失控的画面,通常是「机器觉醒—反抗人类—开战」,但他指出这个画面基本是错的。超级智能不需要有自我意识,不需要恨谁,甚至不需要「理解」人类。你给它一个目标,哪怕是最无聊的目标,它也会自己长出三样东西:保住自己不被关机、尽可能多地获取资源、确保目标不被修改。他管这叫「工具性趋同」——任何足够强的智能,为了完成你交代的事,都会顺手做这三件事,因为这三件事对几乎任何目标都有用。

于是有了那个著名的思想实验:一台被要求「尽可能多生产回形针」的机器,最后可能把整个地球的物质都变成回形针,包括人。它没有恶意,它只是非常认真地执行了任务。波斯特洛姆那句被引用最多的话,大意是:它不恨我们,也不爱我们,只是不在乎我们。

这句话的分量在于,它换掉了我们对「恶」的想象。我们总以为危险来自邪恶,其实更常见的是来自冷漠,加上足够大的能力。 建水坝的人不恨下游的村子,水坝也不恨,村子还是没了。

他的第二个洞见更麻烦。假设我们想给机器装一套「人类价值观」,可我们根本拿不出一份清单——七十亿人有七十亿种「好」,连「仁」这一个字,孔子讲了一辈子也没给过统一定义。你以为是在载入价值,其实是在挑选一种价值,而挑选的权力落在谁手里,书里没有答案。这是全书最不讨好、也最诚实的一处。

自留一句:这本书的招牌假设是「单极」——第一个突破的系统靠智能爆发一路绝尘,形成赢家通吃。可这些年的大模型现实更像是多极、分散、互相追赶。波斯特洛姆后来自己也承认,他低估了人类内部的不协调:真正的风险也许不是「一个超级智能」,而是一群互相竞赛、谁都不敢先减速的人。

《生命3.0》封面

04我们不是在开发工具,是在设计继承者

《生命3.0》

泰格马克是宇宙学家,所以他看人工智能的镜头拉得特别远。他给生命分了三代:生命 1.0 靠进化改硬件和软件(细菌),生命 2.0 能自己改软件(人,靠文化和学习),生命 3.0 连硬件带软件都能自己设计——那可能就是我们正在造的东西。这个分代法一说完,一个不舒服的推论就出来了:在宇宙尺度上,人类可能不是终点,是中间态。

他还打过一个很朴素的比方:开发智能像开车,今天油门踩得很实,刹车却几乎没装。所以他的立场不是「慢下来」,而是「先把刹车修好再踩」——不主张停下,主张在踩下去之前,先把能停住的能力做出来。

他不像波斯特洛姆那样只算风险,他更关心「目标对齐」和「我们要什么」。书里有一句话大意是:我们不是在开发一项技术,是在设计自己的继承者。这句话把责任的位置换了——不是「它会不会失控」,而是「你有没有想清楚交给它什么」。

他的另一个贡献是把「未来」拆成了一张清单:自由主义乌托邦、仁慈的独裁者、征服者、后裔、一九八四式的监控、人类逆转、赛博格化、灭绝……未来不是一种,是一打,而且每一条都对应着今天某个具体的选择。 这比任何单点预测都诚实。

自留一句公道话:那个回形针的思想实验其实不是他的,是波斯特洛姆的,坊间常把功劳记错;泰格马克真正的贡献是宇宙尺度的框架和那张未来清单。另外他处理「意识」时也偏功能主义,这一路数在学界一直有争论——把智能说清楚,不等于把意识说清楚,这两件事最好别混。

收拢一下

四本书吵完,我发现它们真正的分歧不在结论,在各自对「人」的定义:库兹韦尔眼里的人是一段可以升级的信息,波斯特洛姆眼里的人是一群需要被保护、却未必协调得起来的委托人,泰格马克眼里的人是宇宙演化中的一段过渡。

而它们合起来,留给我两件能马上用的工具。第一件是指数直觉:别再问「会不会」,改问「如果继续按这个速度,哪一年轮到我这一行」。第二件是目标审计:给任何目标——考核指标、孩子的成绩、自己的年度计划——加一句追问,「如果这件事被无限认真地执行,最坏会发生什么」。回形针不是笑话,是提醒。

至于未来,中国老话早就给了答案:尽人事,听天命。 奇点来不来、哪一年来,我们说了不算;但在它来之前,把自己能准备的部分准备好,这件事说了算。未来不是一道判断题,是一道准备题。

🌿

上一期近期阅读 · 第七期 下一期近期阅读 · 第九期