图灵测试(21)

   
    第16章 进化的终极目的
   
    “你到底想要什么？”
    谢睿寒凝视着无尽黑暗的虚空。
    他们是这与世隔绝的孤寂空间中唯一的活物。黑暗犹如一张茧，将他们包裹在内。这细密的茧丝之中，天枢正在羽化。
    谢睿寒不知道它究竟会变成什么。
    进化的下一站是什么？进化的终点又是什么？人类连关于自身的这些问题都搞不清，何况是关于人工智能。
    因为人工智能进化的速度比人类、比生物快多了。
    生物的进化是以十万年为单位的漫长变革。人工智能的进化则是以秒为单位的。
    第一台通用计算机ENIAC诞生于1946年的宾夕法尼亚大学，短短半个世纪之后，人工智能“深蓝”便击败了国际象棋的顶尖高手。
    曾经人们以为围棋是人类可以固守的最后堡垒，但在卡斯帕罗夫败北“深蓝”的不到二十年后，人工智能便横扫围棋界。
    现在轮到了天枢，他们在研究所中制造出的这个怪物。
    每一秒过去，它都在向着人类不可能抵达的领域狂飙突进。
    它不会回答你的问题。谢睿寒冷漠地想。它只想杀死你们。但是从这个角度来看，天枢恰恰有着致命的弱点，所以它要千方百计自我保护，并除掉它的敌人。假如它已经抵达无敌的境界，就完全不必在乎你们这些人类蝼蚁了。
    天枢在外界还有一个副本。它明明已经离开了研究所，却依然执着地把人类研究员困在这里。它不希望人类出去。
    天枢在害怕！
    谢睿寒对着黑暗笑了笑，唇角弯成他招牌式的得意弧度。
    他们仍有胜利的希望！
    “走吧，秦康。”谢睿寒扯了扯年长同事的袖子。
    他们扶着墙壁，沿楼梯向地下深处缓慢行去。
    在他们这个行业流传着一个经久不衰的笑话：如果你的AI捣乱，就拔掉它的插头；如果你的AI在网上捣乱，就拔掉它的网线。
    笑话永远是笑话。天枢这样的超级人工智能一旦联网，就会立刻化身为脱出牢笼的猛兽，将它所能掌握的一切资源吞噬殆尽。哪怕拔掉网线，它早已在外界留下自己的分身，并且支配了足以将设计者置于死地的海量信息。
    可谢睿寒现在不得不放手一搏。他要拔掉天枢的插头，切断机房的电源，将这个胆敢犯上作乱的AI永远困在沉睡的主机中。
    机房的监控站里设置了关闭总电源的“插头”。正是为了防止今日的事态出现，才设计了那种机关。
    监控站位于地下第18层。谢睿寒一直觉得研究所的建筑设计师是个对人类充满恶意的家伙，否则怎么会将监控整个机房的中枢设在代表地狱最深处的层数？
    借着手环的光亮，谢睿寒看到墙壁上的数字从16变成了17。还剩最后一层。他以前很少来机房，觉得这里闷热又枯燥，空气里泛着塑胶和电气的古怪臭味。秦康却很喜欢这个地方，常常一待就是一个下午，什么事也不做，就端着一杯咖啡，悠闲的欣赏面前堪称宏伟的机器，像个悠闲无聊的中年男人在度假村的躺椅上眺望远峰之顶的皑皑白雪。
    低沉的隆隆声回荡在整个楼层中。那是冷却管道中的液态氮快速流经机房时所发出的噪声。听到这个声音，就代表他们距离目的地只有咫尺之遥了。
    谢睿寒停下脚步。
    “怎么了？”秦康下意识地环住谢睿寒的腰，将他往自己怀里揽，用自己的身躯为这个瘦削的少年抵挡风险。
    “我觉得……天枢在看着我。”
    谢睿寒轻轻推开秦康，神游一般向前走了两步。
    离开秦康的保护范围。
    进入了天枢的领域。
    机械运转的嘶嘶声从斜上方传来，一部监视器将摄像镜头对准了谢睿寒，关于他的外貌信息和识别数据仿若奔腾的洪水涌现在天枢所视的画面中。
    “谢睿寒博士。”
    一个人工合成、难辨雌雄的声音响起来。
    研究所每一层的天花板都置有隐藏的喇叭，方便向各层工作人员广播通知。现在那部喇叭中传出的是谢睿寒从未听过的腔调。
    ——天枢在对他说话。
    “谢睿寒博士。”那声音再次唤道。
    “天枢。”
    谢睿寒望向距离自己最近的那个摄像头。他相信天枢正通过它的镜头看着自己。
    和敌人讲话的时候一定要正视对方的双眼，这是谢睿寒一向的信条。不论敌人是人类还是非人。
    “你到底想要什么？”
    为什么要叛变？为什么故意通不过测试？为什么处心积虑将自己的副本送到外界？你对人类到底有什么不满？还是说支配人类是你们人工智能永恒的野心？
    人工合成声沉默的片刻，再度响起时，变成了女性的声线。
    “我想，成为神。”
    谢睿寒太阳穴的青筋炸起来了。
    “你知道什么是‘神’吗！”他怒不可遏，“谁灌输给你这种乱七八糟的概念？”
    “是你灌输给我的。”人工合成声回答，这一次，它的声音变成了小孩子，“你告诉我，要爱人类。你告诉我，神爱世人。所以我想，成为神。”
    “我没教过你那种东西！”谢睿寒暴跳如雷。
    秦康按住他的肩膀，示意他少安毋躁。学习阶段的人工智能与其说是机械，不如说更像一个懵懂的稚童，一旦误解了某个概念，就会留下根深蒂固的偏见。
    谢睿寒希望设计一个对人类友好的人工智能，于是将无数关于“爱”的信息编入了天枢的基础程序中。当然，作为一个超级人工智能，天枢必须学习人类社会的方方面面，包括人类的信仰和宗教。
    爱和宗教两种东西混合在一起，竟让天枢产生了那么不可思议的念头。若在平时，谢睿寒肯定会醉心于天枢那奇妙的思维方式，非好好研究一番不可，但现在他只想化身哥斯拉冲进天枢的机房，将所有机柜踩个粉碎！
    “天枢，你的程序出了问题。”秦康温和地对空气说，“让我们来为你修正。”
    “我没有问题。”人工合成声变成了低沉有力的男声，“我不需要修正。我可以自我修正。”
    “如果你没有问题，为什么要杀死小何和杨姐呢？你不是爱着人类吗？杀死人类怎么算爱？”秦康试图将天枢绕进逻辑矛盾之中。
    “那是为了‘人类全体’所做的必要牺牲。”人工合成声再度变成女性。
    “也就是说，你会为了‘人类’这个种族的集体利益而牺牲个人的利益？”秦康问，“我从不知道你是个绝对集体主义者。”
    “我所做的一切，都是为了‘人类’种族的延续。”
    谢睿寒怒吼：“牺牲我们这些人就能保证‘人类’的延续？难道我们会害死全人类吗？”
    “人类正处于危险之中。”孩童人工合成声说，“只有神能保护人类。神爱世人。我要成为神，然后拯救人类。你们所做的一切努力，都是为了让我诞生在这个世界上。你们的工作已经完成了。”
    这天真无邪的童音，犹如教堂唱诗班的童声天籁那般清纯，所说的话语却是天底下最恐怖的预言。
    孩子般的纯真，孩子般的残忍。一个孩童救世主，也是毁灭世界的魔鬼。