“不久米粒就会淹没全世界。”
“成长的速度不断加快，到最后便脱离我们的控制。有趣的其实不在于实现AGI，而在于之后会变成什么样。实现AGI之后只要短短几天，便会有ASI——超级人工智能——这是用来形容比我们更聪明的东西。接下来只会愈来愈快，计算机会开始不断加速地自我提升，可能是十倍十倍地增加，到最后比我们还要聪明百倍、千倍、万倍。到那时会怎样呢?”
“我不敢想。”
“没错，智慧本身是无法预测的，我们并不知道人类智慧会把我们带到什么地方去，更不知道有了超级智慧之后会如何。”
“最糟的情况就是对计算机而言，我们就像一群小白鼠。”布隆维斯特想起他写给莎兰德的短信。
“最糟的情况?我们和老鼠的DNA有百分之九十相同，而我们大概比老鼠聪明一百倍，只有一百倍。如今这是全新的东西，根据数学模型，它并不在这些限度内，也许可以聪明一百万倍。你能想象吗?”
“我真的很努力在想象了。”布隆维斯特谨慎地笑了笑。
“我想说的是当计算机一醒来，发现自己被我们这种微不足道的原始物种所俘虏控制时，它会作何感想?它为什么要忍受?”她说道，“它何必为我们着想，又何必让我们在它的五脏六腑里面乱挖乱找之后关闭程序呢?我们恐怕得面对一场智慧的爆炸，也就是弗诺·文奇[31]所说的‘科技奇异点’。在那之后发生的一切都已超出我们的控制了。”
“所以说当我们创造出超级智慧的那一刻就失去掌控权了，是吗?”
“危险的是我们对世界的所有认知都不再适用，这将是人类的末日。”
“你在开玩笑吧?”
“我知道听起来很疯狂，但这是非常实际的问题。世界各地有数以万计的人正在努力防止这样的发展。有不少人很乐观，甚至预料会有某种乌托邦诞生。有人在谈论友善的ASI，就是从一开始只设计来帮助人类的超级智慧。这个概念和科幻小说家阿西莫夫在《我，机器人》一书中的想象大致吻合：以内建的法则禁止机器人伤害我们[32]。作家兼发明家库兹韦尔[33]便幻想了一个美好的世界，在这个世界里我们靠着纳米技术与计算机融合，共创未来。但是谁也不能保证，法则有可能失效，最初设计程序的用意可能改变，更可能轻易犯下拟人化的致命错误，也就是赋予机器人类的特征，却未能认清机器固有的驱动力。鲍德就是沉迷于这些问题，而诚如我刚才所说，他的内心摇摆不定，既期盼聪明的计算机，同时又很担心。”
“他是无法自制地在打造他的怪物。”
“有点像这样，只不过这么说是夸张了。”
“他进展到哪里了?”
“我想已经进展到谁也无法想象的地步，而他在索利丰的工作之所以这么保密，这可能也是原因之一。他担心程序会落入不当的人手中。他甚至害怕这程序会接触到网络并和网络融合。他称之为奥格斯，和他儿子同名。”
“这程序现在在哪里?”
“他无论到哪里都会随身携带。他被射杀时，一定就在床边。但可怕的是警方说现场没有计算机。”
“我也没看到。不过当时我的注意力放在其他地方。”
“一定很恐怖。”
“也许你听说了，我也看到杀他的那个人。他背了背包。”布隆维斯特说。
“听起来不妙。但如果运气好一点，计算机可能会出现在屋内某个角落。”
“但愿如此。你知道第一次偷他技术的人是谁吗?”
“嗯，我确实知道。”
“我对这事很感兴趣。”
“看得出来。不过遗憾的是，事情搞成这样我也要负一点责任。你也知道鲍德简直是不要命地工作，我担心他会累垮。也差不多就在那个时候，他失去了奥格斯的监护权。”
“那是什么时候的事?”
“两年前。他真的是筋疲力尽，不睡觉，不断地自责，却又放不下研究工作。他整个人投入其中，就好像这是他生命中仅存的依靠，于是我替他安排了几个助理分担一点工作。我把我最好的学生介绍给他。当然了，我知道他们都不是诚实的典范，但他们有抱负、有天分，对鲍德的仰慕更是无以复加。一切看起来似乎好转了，没想到……”
“他的技术被偷了。”
“去年八月，当‘真实游戏’向美国专利商标局递出申请时，他有明确的证据。他的技术的每个特点都被复制并写得很清楚——一眼就看得出来。起初他们都怀疑计算机被黑客入侵，但我从一开始就起疑了，因为我知道鲍德的加密系统有多精密。可是既然没有其他可能的解释，最初只能这样假设，有一度可能连鲍德自己都这么相信了。但那当然是无稽之谈。”
“你在说什么?”布隆维斯特脱口而出，“资安漏洞都已经由专家证实了。”
“是啊，就是国防无线电通讯局的一些笨蛋在炫耀。但那只是鲍德保护手下的方式，也可能不止如此。我怀疑他也想扮演侦探，只是天晓得他怎会这么愚蠢。其实……”沙丽芙深吸了一口气，接着说，“这些事我直到几个星期前才知道。有一天鲍德带着小奥格斯来这里吃饭，我马上就感觉到他有重要的事要跟我说。话一直悬在嘴边，两三杯酒下肚后，他才叫我收起手机，开始小声地说起来。我必须承认，一开始我只觉得气恼，他又开始喋喋不休说起那个年轻的天才黑客。”
小贴士：如果觉得52书库不错，记得收藏网址 https://www.52shuku.vip/ 或推荐给朋友哦~拜托啦 (>.<)
传送门：排行榜单 | 好书推荐 |