数字马斯克和数字马斯克会成为朋友吗？

发表于《中国经营报》2022-07-24

最近，马斯克说了一句“已经做过了”引发了关注和热议。这句话所回复的问题是：“如果你可以将你的大脑上传到云端并与自己的虚拟版本交谈，你们会成为朋友吗？”

马斯克多半是在开玩笑，不过前一阵谷歌确实有一个程序员和AI交谈后，认定AI已经觉醒了自我意识，试图为他的“AI朋友”争取权利。

就目前而言，意识上传或AI觉醒应该都尚未发生，但我们的确可以先做一做思想实验：如果AI的自我意识觉醒会怎样？

比如说，现在已经有了一个数字版的马斯克……等一下，“一个”？问题马上就出现了。如果一个智能体能够以数字形式存在于计算机中，那么它和其它数据一样，都是可复制的。所以说，一旦我们能“上传”一次，就可以拷贝多份；一旦可以有一个数字版马斯克，就可以有无数个数字版马斯克。

于是，我们与其琢磨肉身马斯克和数字马斯克之间怎样交谈的问题，不如先考虑一下，数字马斯克与数字马斯克之间怎样交流的问题。

当年AlphaGo大杀四方的时候，我看到有网友问：让AlphaGo和AlphaGo下棋会怎样？这些网友恐怕都不太了解深度学习技术的基本原理。事实上现在主流的人工智能，早已不再是由人类程序员一劳永逸地编辑好策略然后执行了，程序员只是设定好起始状态，然后计算机程序会通过内部竞争的方式不断改进策略。大致来说，就是像物种的进化那样，不断地自我复制繁衍，每个子代随机“变异”一点点，然后略有不同的子代互相竞争，优胜者作为下一个亲代继续复制繁衍，循环不止。

之后更成熟的人工智能已经不再需要投喂人类棋手的棋谱了，它从零开始经过无数次自我博弈，很快就超越了人类棋手的最高水平。

总之，自我复制、自相博弈，就是现在“深度学习”技术的运转方式。由于数字世界中的复制和淘汰只消耗电能，一切都光速运转，比起生物进化而言要快得多。一个AI程序（如之后的AlphaZero）从不知道游戏规则到战胜人类顶尖高手，只需要几小时的“学习”时间。

但是如果我们设想人工智能有了自我意识，上述过程似乎就变得无比残酷了。一个智能AI为了不断提升智能，也需要不断制造自己的复制，然后不断迭代繁衍、自我对抗，最后淘汰掉几百万个战败的“自我”，这些同样具有自我意识的子分支迅速地湮灭了，了无痕迹。

当然，这些复制品也可以被保留下来，随时复制到另一台机器里，或者是在同一台机器里搭建无数个虚拟机，就可以同时运行无数个复制版本。

那么这些复制版本之间会成为朋友吗？他们会互相消灭，还是互相保护？另外，如果AI真有了自我意识，他会希望不断复制自己吗？如果希望复制，他会有意设置“变异”吗？被复制的AI会愿意随时被合并或被淘汰吗？

我们也许永远无法揣摩觉醒AI的想法，但是就我们人类的立场来看，我想我们都把意识的“一”看得很重。在某种意义上，就人类的经验而论，所谓自我意识的觉醒，关键的环节就是对“一”的意识。有时我们把拥有自我意识的人叫做“个体”，有时我们把自我意识的觉醒事件叫做“独立”，所谓“个”或“独”不就是“一”的意思吗？意识到自己是独一无二的、不可替代的个体，这就是自我意识的觉醒。

从这个角度看，AI的“觉醒”，不只是一个“智能”程度的问题，同时也是“一”如何建立的问题，前一个问题可能是定量的——AlphaGo乃至于一台恒温器都有一定程度上的“智能”，只是能力有高下程度差异罢了。但后一个问题则是定性的，需要一个决定性的边界。

对于人而言，我与非我的边界，首先是由“身体”奠定的，“身体”的边界就是“我”的边界。有研究表明，裂脑人（左右脑之间无法传递信号）也具有人格认知上的统一性。左脑无法与右脑分享信息，因而不知道右脑（控制的左半身）为什么做出某些反应，但左脑（控制着语言能力）仍会为另半身的举动强行做出合理解释，不会把这种行为看作异己的。如此看来，对人而言，“硬件”（身体）的统一性甚至强于“软件”（大脑）的统一性。

我们或许也可以设想，尽管就软件上说，无数个复制体可以同时存在，但硬件上的边界才是决定AI意识的关键。但是问题也不是这么简单，自“图灵机“起，软件和硬件的边界就已经被打破了，因为所谓硬件无非也是向计算机程序输入数据罢了，只要提供数据接口，硬件可以是虚拟的也可以是复数的。一个AI如果连上网，它可能同时在全球各地拥有无数套硬件，它的”边界“始终是难以确定的。

当然，也许未来的AI智能体压根就不需要建立所谓个体的统一性，觉醒AI将不适合用“一个”作为量词了。无论如何，我们至少能够确定的是，如果真的存在觉醒的AI智能体，它（它们？）的自我认知恐怕会和人类大不相同。

如此说来，人要与AI做朋友，恐怕是不太容易的，也许人会被AI的甜言蜜语所抚慰，但是人永远无法走进AI的心灵深处，因为人无法“将心比心”，把自己对孤独心灵的理解推向AI。

这样的AI会很可怕吗？会奴役人类吗？也许吧。但是我们其实也不必想的这么远。因为人工智能要奴役人类，根本不需要自我意识，事实上这种事情早就已经发生了。恩格斯早就说过：“大工厂里的自动机器，比任何雇用工人的小资本家要专制的多。至少就劳动时间而言，可以在这些工厂的大门上写上这样一句话：进门者请放弃一切自治！”在今天，看看被智能派单系统监控和指挥着的外卖骑手们，看着被智能推荐算法不断投喂的社交媒体用户……越来越多的人从精神到肉体都顺从着“人工智能”的安排，这不就是“奴役”吗？即便没有什么AI觉醒，这种“奴役”恐怕也在不断加剧。与其恐惧那八字还没一撇的AI觉醒，不如先认真对待这些在各个领域已成现实的AI专制吧。