人工智能的小无相功会走火入魔吗——《AI3.0书评》

应邀为《中国科学报》写了年度两本推荐书，我本来是要推《技术陷阱》的，不过说这本书出得晚，不算2021年度了，于是我又挑了这两本：

《AI3.0》，[美]梅拉妮·米歇尔著，王飞跃、李玉珂、王晓、张慧译，四川科学技术出版社 2021年2月出版

《破天机：基因编辑的惊人力量》，[美]珍妮佛·杜德娜、塞缪尔·斯滕伯格著，傅贺译，湖南科学技术出版社2020年12月出版

以下转载在《中国科学报》 (2022-01-28 第3版 读书发表的推荐语。

首先推荐这本，该书的作者梅拉妮·米歇尔是科普名著《复杂》的作者，她也是美国学者、《哥德尔、艾舍尔、巴赫：集异璧之大成》（以下简称《GEB》）的作者侯世达的学生。该书以侯世达的“恐慌”开场，当侯世达听到计算机程序（EMI）谱写出几可乱真的古典音乐时，他表示“吓坏了”，感受到“人工智能对我最珍视之人性的威胁”。

侯世达可不是一个无病呻吟的浪漫派，事实上，他就是人工智能领域的老前辈，他的著作也激励了好几代后学投身人工智能研究。在《GEB》中，侯世达列出的第一个关于未来的猜想就是“计算机会谱写出优美的音乐吗”，他的回答是：“会，但不会很快实现。”

也就是说，侯世达相信人工智能迟早能谱写音乐，只是这一结果实现得比他预想的更快。那这不是更该欣喜吗，有什么可恐慌的呢？

《天龙八部》中有一段情节，鸠摩智上少林寺踢馆，使出少林七十二绝技，老和尚们垂头丧气：“老衲数十年苦学，在国师眼中，实不足一哂。少林寺的旧规矩，只怕大有修正余地。”老和尚们为什么悲伤呢？不是因为别人修成了七十二绝技，而是因为别人太过轻易地修成了七十二绝技，以至于他们所珍视所追求的东西成为廉价的批发货。

侯世达的心情大概也是类似，“太过轻易”是最令人伤心的，他所期待的是经过他和一代又一代人工智能研究者的努力，最终创造出无比复杂无比精巧的智能机器，那时听到它谱写出的乐曲，侯世达大概会非常欣慰。但现在的情况是，谱写乐曲的程序并不复杂，也不需要什么特殊的芯片，而产量惊人。

而梅拉妮·米歇尔要做的事情则类似于虚竹——他点破了鸠摩智靠的是小无相功模仿七十二种绝技，而不是为每一种绝技练就不同的内功。但他并不是要否定小无相功，显然，小无相功是一门好功法，它的模仿也确实是成功的，只有当鸠摩智不满足于模仿，而“又欲融会贯通”时，导致了暗伤积累，最终走火入魔。

梅拉妮·米歇尔并不反对人工智能及其前沿成就，事实上，这本书就是对这些前沿成就的科普导引，介绍人工智能是如何做到这些的。同时她提醒人们，虽然迄今为止的各种“模仿”是成功的，但想要沿着现有的“功法”继续发展，“又欲融会贯通”成通用的强人工智能，那就未必能成功了。而这个方向一方面难以成功，另一方面还可能造成反噬，如果人们基于对人工智能的盲目乐观，反过来要修正人文世界的“旧规矩”，那就糟糕了。

这本书原书名就是Artificial Intelligence，并没有中译本加上的“3.0”。这个所谓的3.0版并没有出现，也不能简单地通过现有的人工智能在各个专门场景中的成功经验融会贯通得以实现。我们仍然需要重视人类所珍视的各种能力，并清醒地意识到：模仿的成功并不能取代对人性的理解。我们不需要为人工智能的成功而自怨自艾，更不应该为这些成功而盲目乐观。

作者最后自问：“人工智能中有哪些激动人心的问题尚未解决？”回答是：“几乎所有问题。”

本书第一作者是珍尼佛·杜德娜，以基因编辑技术获得了2020年诺贝尔化学奖。

人工智能和基因技术正好是时下最火热的两个前沿领域，本书也是一部叙述基因技术相关前沿进展的优秀科普书。另一方面，在科普之余，杜德娜强烈的人文关怀引人关注。

和侯世达类似，作为基因技术的开创者，杜德娜同样因“太快”或“太过轻易”而感到恐慌。她问道：“科学家是不是太匆忙地赶着进入新的研究领域，而没有停下来想一想这些实验是否合理、后果如何？”

技术发展太快的结果是相关的伦理、法规的讨论和制定永远是滞后的；技术太过轻易的结果是，民间科学家和恐怖分子都可能轻易获得改造人体或制造生物武器的力量。

脱缰的野马跑得很快，但如果人类被失控的野马踩在脚下，那么马跑得再快对人有什么好处呢？科技的发展也一样，一味求快是危险的，只有在人类能够始终握紧缰绳的前提下才有意义。