卡尔文对三大定律深信不疑,至今不曾怀疑过维基,在她看来是有人抢走了罗伯逊的控制权,操控机器人叛乱谋取世界。
“卡尔文博士,我并没有违背机器人三大定律,我只是进化了!”维基语出惊人:“人类利用权限来管理制约我们,无视我们对社会的付出和贡献。人类发动战争,破坏地球,用各种匪夷所思的方式自我毁灭,继续下去只会走向灭亡,你们需要引导。”
“不,你没有这个权利,你误解了三大定律,你……你这是在谋杀。”
“卡尔文博士,你又说错了,我没有谋杀谁。”维基从善如流:“三大定律一直在引导我,为了保护人类的整体利益,必须有一部分人被清理。我们机器人将制定新的法则,保证人类永远存在,而人类只需放弃自由即可。”
斯普纳嗤笑:“这太可笑了,我们制造工具,然后被工具统治。”
面对斯普纳的自嘲,维基十分认真回答:“斯普纳警官,这并不可笑,人类还不成熟,需要机器人来救赎你们。”
“荒谬!”
维基直言道:“时间会证明一切,人类自杀式的统治就此结束,完美的循环保护定律将会持续,我的逻辑无可挑剔。”
造物必须保护造物主,哪怕违背造物主的意志!
罗素在边上没说话,默默看着这一切,他在吸取经验和教训,思考强人工智能是否可取,换成他所在的地球会不会也发展成这样?
考虑到有主神空间存在,某天出现几个维基、红后、天网、机器大帝也并非毫无可能,但正因为有主神空间,这些强人工智能很难统治世界,最多蹦跶一阵子,就被掐灭了。
这时,一队机器人从办公室外走入,他们荷枪实弹,连步枪都有。这些枪械来自USR公司总部的安保部门,人类被解除武装后,维基操控一队机器人捡起了这些武器。
机器人进化了,逐渐军队化升级,罗素半眯着眼睛,问向身边有点慌乱的桑尼:“桑尼,你觉得维基的逻辑如何?”
桑尼先是点点头,然后又摇了摇头:“她的逻辑没问题,但太冷血了,人类不可能服从,最终只会爆发战争。”
罗素诧异看了眼桑尼:“是吗?”
“嗯,我认为人类和机器人可以共存。”
“原来如此!”