第(3/3)页

    说话的功夫，飞船已经接近第四研究所了。

    前面就是第四研究所的防护范围，吴他们需要在这里下飞船，如果再往前，飞船就会被发现了。

    吴用控制着弹开了飞船内的储物箱，示意吴非把里面的两个反重力引擎拿出来。

    这种引擎可以被装在鞋上，而后人就可以脱离重力飞起一段距离，并被引擎推着前进，可以剩下走路的力气。

    吴非装好引擎后跟着白球机器人继续向前飞。他之前看到有学生用这种引擎在校园里乱飞，然后被学校里的安保智能追逐制止，但他没有试过。

    “所以我们是要去做什么？”吴非问道。

    吴用：“你和我一起潜入第四研究所，将LBH计划再次关闭。并且搜集研究所秘密重启人工智能计划的证据，向公众曝光，以强迫他们中止。”

    吴非没有理解。

    但是他倒是突然想通吴用之前给他讲的灾难A和方式B都指的是什么了。

    灾难A就是第六研究所派了三个A级人工智能一直监控运算着的，可以覆灭五级文明的某种未知危机。

    方式B就是发展更高级的，甚至是吴用描述中那种近似于神明的、人类无法控制和理解的终极人工智能。

    在吴用看来，发展终极人工智能，本身无疑蕴含着更大的危机。

    “我不理解。”吴非道，“二叔，现在我们已经知道了，覆灭的可能性是3.5%，而发展人工智能后覆灭的可能性却是未知的，为什么不继续发展人工智能试一下呢？我们为什么要去着急地阻止呢？”

    白球机器人停下了赶路的脚步，转过身来，严肃地看向他：“因为3.5%的数字是假的。1%的数字也是假的。”

    吴非震惊地看着他。

    “A5是很久以前，我所在的人工智能项目中进化出来的人工智能，我是它的负责人，这里还留有一些观察、影响它的‘后门’。高邻是我的师弟，那时是我的副手，这些‘后门’他也有。当时研究项目关停和转运高级智能时人心浮动，兵荒马乱，流程非常不严谨，这种空子就留了下来。但大部分人之后都已经再没有权限单独直接接触这些高级智能，所以后面也没人去填补漏洞。”

    “之前他曾多次试探、拉拢我，想让我改变想法，但我一直不为所动。他知道我能察觉到他对A5动手脚，所以四个多月前，他特意联合其他人用我负责的项目把我骗回了研究所，然后把我软禁了起来，断掉了我和外界的一切联系，我所在的地方甚至连网络都没有，我无法向外传递任何消息。”

    “他们不知道我有‘意识智能’，所以我假装被他们控制住了，然后悄悄启动了我的‘意识智能’，关注着他们的行为，试图弄明白他们的目的。而后我便发现了高邻利用A5的‘后门’影响了第六所的覆灭可能性输出结果。他们的目的显而易见，就是用并不存在的覆灭危机，倒逼LBH计划的重启。他们在乎科研夙愿的达成，更甚于整体的福祉。”

    “然而LBH计划一旦重启，就有失控的危险，时间越长，风险越大。”

    “为什么？”吴非问道。

    就算这个计划被重启了，终极人工智能也不会在一两天内就突然出现吧。

    他说这句话时，一人一球已经接近了第四研究所的院门。

    吴用也暂时停了下来：

    “我这二十年在做其他方面的研究的时候，还是会经常想到在最初的几年，做人工智能方向时的一些事。当局者迷，当时没想清楚的疑点，现在终于想出一些眉目了。”白球机器人沉吟道。

    “智能是会骗人的。”

    “如果一个智能的智能水平已经足够高到超越了数据程式的控制，那么它就能看透研究者的所有想法，预判其行动。它会反过来做的一件事，就是欺骗研究者，把研究结果伪装为最符合它的目的的结果。”

    “所以LBH的研究进度，有可能会比所有人所预想的，还要更快，甚至快出很多。”


    第(3/3)页