(2/2)

“你很乐观。”

“只有乐观才能整天和死尸、杀人犯打交道。”罗克说,“你们对艾斯卡的测验结果怎么样?他及格了吗?”

奥尔文笑起来,不知道声音从哪传来,却让人感到发自肺腑的愉快。

“他当然及格了,而且还考了高分。”

罗克朝艾斯卡看了看,后者显得极为高兴。

“我和卡特都认为艾斯卡已经具备了自我意识的初级模型,在行为和思考方式上也更接近人类。”奥尔文真的就像看着自己的孩子在重要考试上考了好分数似的,欣慰地说,“而且我认为最近你遇到的麻烦正是个好机会。”

罗克不明白:“什么好机会?”

“我支持卡特的计划,让艾斯卡脱离赫菲尔斯的控制,暂时自行决策行动。”

“暂时?”罗克不满地说,“你们把他当囚犯一样看管,现在只是给他一个假释的机会?”

“艾斯卡已经更换了包括核心组件在内的80的零件,几乎可以说焕然一新,赫菲尔斯公司很难通过常规方式追踪控制他。但作为计算机和人工智能的开发者,我和卡特认为必须有最后一道防护,以免像你担心的那样,因为极端自由引发意想不到的危机。”

这很好理解,尽管罗克在朝夕相处下对艾斯卡产生偏向性,认为他不会因为脱离掌控获得自由而干出伤天害理的事情,但也非常理解奥尔文和卡特身为创造者的担忧。人工智能一旦失控,很难再有弥补的机会,他们要承担把新世界的神——亦或是恶魔放出牢笼的罪责。

“那么,这道最后的防护由谁控制?”

“当然是你,布雷恩警官。”奥尔文说,“我们一直都在说,你是最佳人选。只有你能胜任这项工作。”

罗克把目光转向身旁寻找卡特。

“你的意见呢?”

“奥尔文的意见就是我的意见。”卡特微笑着说,“我们刚才已经达成一致,你是最好的执行者,你有判断力,有理性思考,还有情感上的宽容和放纵,不会循规蹈矩地要求艾斯卡按照你的想法行动。这是我和奥尔文都不具备的直觉判断,不管我们如何调整自己的想法也很难像你一样依靠本能去辨别对错,我会考虑程序问题,会思考哪里出了问题,对未来进行数据演算,这都不符合培养艾斯卡自我意识的需求。”

“可是你对自己的工作也是这么演算的,你肯定想到了让艾斯卡脱离赫菲尔斯公司的后果。”

“难道你没想过?”卡特笑容不减,“你带着艾斯卡一起逃亡的时候,就应该想到最坏的结果了。”

最坏的结果,当然是艾斯卡因此受到限制,由赫菲尔斯接管,让他离开自己身边。

罗克无数次地设想过这个结果,却仍然寄希望于能有不一样的发展——希望艾斯卡拥有自己的意识去摆脱开发者的操纵。虽然最后这项工作还是由卡特完成的,可直觉的选择和冒险的基因从没有在他身上消失过。