那么这一规划的问题在哪里？
首先，不得不提到一点，即便阿达民先生、您想象的那种AI被开发出来，在短时间内，或许也就是十年、甚至五年内便进入实用化，这种AI也不过是将将能替代人进行科学研究，将我们这些人扫地出门，仅此而已。
基于人类世界的现状，基础科学的发展，停滞不前，即便用AI代替人类，也几乎无法取得一些关键的、划时代的突破。
至于说，制造出强AI，推动基础科学的发展：
像您这样的人物，该不会有这么一种不切实际的幻想，难道不是吗？
制约人类科学技术发展的，并非聪明才智，而是盖亚与一切相关资源的量级，没有足够的资源、能源甚至空间，这些因素，现阶段无法用任何手段加以改善，更无法规避，AI在这方面也一样无能为力。”
“似乎是这样，不过，我一开始也没有这种奢望。”
莱斯利*兰伯特的话，十分浅显，方然便点一点头，承认这位科学家说的很有道理。
“强AI”，不论传统学术界的定义如何，即便被研发出来，缺乏客观条件的支援，也无法凭空推动科技的进步。
“没有，那么这很明智。
但不管怎么说，‘自主式科研AI’能否推进科技，那毕竟也是一个很长远的问题，眼前的危机，才更值得警惕：
出于种种考虑，研发具有创造性、探索性思维的人工智慧， AI一旦这样的被研究出来，阿达民先生，您是否能确定，凭现有的科技、武器与战力水准，自己必然能掌控这AI，而不会被自主决策的AI所消灭？”
“AI的反叛，是的，这是一个想当棘手的问题，但，可以提前采取——”
“没有什么‘提前采取’！
恰恰相反，一旦‘具有超越人类的科研能力’，这样的AI被制造出来，其行为与动机，就注定会脱离人类的掌控，这并非安保手段、武力强弱的定量问题，而是由双方‘智力’差距所决定的，无解的困局。
试想一下，阿达民先生，您之所以拍板这样宏大的计划，目标，正如刚才亲口所言，绝不是为了获得‘能够与人相比拟’的那种AI。
投入大量资源，消耗时间，只为了得到一些模仿的产物，根本得不偿失。
此类研究的根本动机，显而易见，是期望获得能力超越人类、甚至远远超越人类的‘强AI’，目的，并非研究什么自我意识、或者要创造出这样的自我意识，而是要在人类专有的科学技术研究领域，制造出一个碾压现今所有人的利维坦。
这样的东西，一旦真被研究出来，凭你我这种人类的头脑、意识，恐怕连预测其行为、判断其动机都做不到；
有怎么能奢望，凭藉一些儿戏般的安保手段，便能将其禁锢起来，为己所用。”
滔滔不绝，莱斯利*兰伯特的一番直抒胸臆，脸都有些涨红。
至于他要表达的意思，无需聚精会神，方然也能明白，事实上，自从掌控NEP大区之初，自己便一直在琢磨事关重大的难题。
创造性思维，具有这种特质的AI，先不论通过什么样的手段去研发，一旦成为现实，那么，除非这种AI的能力与人类相仿，一旦其能力远超人类，再加上其自身“思维”、“决策”的无可预测，人类就会有灭顶之灾。
这种风险，只要着手开展此类研究，就一定会出现。
不仅必定出现，应对之策，事实上也是不存在的，并不会因为一些莫须有的“拉电闸”、“核弹爆轰”的手段而改变。
一切的缘由，完全在于AI的“自主意识”，其危害之大，只要设想一个能力超卓、却与同类决裂的人类，能对人类世界造成多么大的破坏，然后将这种威胁放大若干倍，便不难想象到时的情形。
面对特立独行、完全漠视人类利益的威胁……
一切应对之策，在强AI的眼里都会十分可笑。
第四九一章 自缚
到那时，脱离了这一躯壳的人，还能算是传统的“人类”、甚至于“人”么。
想法有点脱离实际，现在，只能藉助“替身机器”去远程操控生化模拟人，其实这一过程也和完全的机械化差不多，区别只在于，人的意识栖居之所，神经系统，仍然依赖着传统的肉身才能存活。
倘若有这样的办法，让身体永存，每一天都藉助“替身机器”在这世界上活动，甚至更进一步，用VR徜徉于虚拟世界，是不是就更接近于永生。
在一边看兰伯特吃饭，诸多想法一晃而过，方然藉助虚拟显示查看资料，整理思路。
而看上去有一点心事重重的莱斯利*兰伯特，则有点食不知味，踌躇片刻后，还是有点沙哑的开口。
“阿达民先生，说真的，对您刚才所说的一切，我们的确未曾严肃认真的考虑过。
但，这方面的辩论且不谈，即便AI的自我意识，会和遍布历史痕迹的人类之自我意识不一样，本质上就大有区别，但，失控的风险仍会存在：
一个AI，终日沉浸于科学研究，以探寻未知、探索奥秘为至高目标，作为创造者，人类或许能将AI塑造成这般模样。
但，说到这里，您想必也能明白，有能力从事‘创造性、探索性科学研究’的AI，其基础架构与运行机制，必定与现有的一切AI大有区别，本质上讲，其必定会有强大的自我重构、自我完善能力，甚至还可以自我演化、自我推进。
小贴士：如果觉得52书库不错，记得收藏网址 https://www.52shuku.vip/ 或推荐给朋友哦~拜托啦 (>.<)
传送门：排行榜单 | 好书推荐 |