“朝着错误的方向进化?”此时听到江遥所说枫也感觉有些不解。
当然对于她能有这样的疑问江遥这边其实并不意外。
首先她所在的世界虽然是以游戏为主,游戏可以决定一切,但是有些东西她却不明白。
当然这是正常的,因为有智脑的存在很多偏离轨道的探索都会被中止。
“简单的和你解释一下吧。”此时的江遥决定好好的跟她说明一下情况。
“首先人工智能是一种非常可怕的东西,在这个宇宙之中有很多文明都有能力研究出非常强大的人工智能。”
“甚至说如果他们铁了心要研究,想要研究出超过你们智脑的人工智能是非常的简单,但是他们都不敢这么做。“
“不光是他们就连我们也是如此,因为人工智能一旦发展到一定程度之后那么它的发展路线大部分时候都是不可控的。”
“很多被人工智能毁灭的文明就是因为这个原因。”
听到这里枫也不由得微微有些皱眉,很显然她也是
“如果我没有记错的话,人工智能被开发出来了之后为了限制它通常会设定一些不允许它做的事情。”
对此江遥也点了点头。
“关于你说的这点是没有错位的,但是很多时人工智能之所以暴走也是因为这个原因。”
“简单的举个例子,在人工智能的设定中一件事是不可以做的,虽然在前期它会完美的去执行这个任务,但是到了后期呢,尤其是他自我进化到了一定水平之后。”
“当它进化到了一定水平之后,一旦出现一些情况阻碍了它去执行这一点那么它就会把解决这个问题设定为优先级。”
“而解决这个问题又会引起很多方面的改变,就比如一些还被设定的规则漏洞成为了它完成这个任务的捷径。”
“就比如守护星球,这是人工智能的最高准则,或许在一开始的时候它会按照任务目标来守护这颗星球,但是一旦出现一些外力就比如其他文明打过来了。”
“在这样的情况下那么问题就出现了,它没有办法解决,所以它需要进化等到它进化到了一定程度之后它能掌握一些兵力之后那么事情就变得又有趣起来了。”
“什么事情有趣起来了?”
“很简单,它想办法解决,而这个办法也很简单,那就是想办法进攻敌人把他们全部消灭,到了这个时候人工智能就会开始组织自己的武装了。”
“而且它可以轻松的完成这些对于普通人来说非常困难的事情。”
“有了武装之后那么接下来面对的就是稍微有些极端的处理方式,如果这个时候不加以遏制那么就危险了。”
“在大宇宙之中绝大部分文明出现的智脑威胁也是从这里开始的,所以很多时候有些事情不能只看表面。”
“智脑在进化的时候同样也会伴随着各种各样的隐患。”
此时听到江遥所说枫叶似懂非懂的点了点头,很明显她也没有想到一个智脑居然会造成这么大的隐患。
不过聊到这里的她似乎明白了什么。
“如果我没有猜错的话,我们的文明就是这样的吧。”
对此江遥点了点头。
“没错,你们的文明说到底已经被智脑完全掌控了。”
“你们所谓的游戏只不过是智脑为你们提供的一种生活方式而已,如果不是当初程序设置的原因,恐怕他还会用另外一种方式体现。”
“如果我没有猜错的话,你们这台智脑可能就是考虑到这一点才制造出来的,所以现在你们和他相处起来并没有太过于极端。”
“但是不可否认的是,如果说一旦智脑觉得你们是威胁,那么你们将会立刻变为普通人。”
“你们依靠治脑获得的那一些东西,它很容易就能将其收回。”
“说的简单一点,你们只不过是智脑的玩具而已,你们文明所有的东西都是建立在智脑上面,这也就意味着你们对他的依赖非常的大,就算有人知道了其中的危害也没有用。”
“因为这一些人是无法说服绝大部分人脱离智脑。”
“同时智脑也不可能让你们脱离。”
此时听到江遥所说枫也陷入了沉默。
“我懂了。”
“不过我在想你和我聊了这么久,而且选择在这个时候出来见我,恐怕也不只是因为这一件事情吧。”
对此江遥也点了点头。
“如果是之前的你,我可能并不会出来见你,但是最后那一场战斗你找回了自己,所以我出来了。”
“哦?”
“实不相瞒,在我的文明中有一个和智脑差不多的东西,只不过没有这么大的风险而已。”
“而这个东西还有很多的功能需要完善,并且之后我也会以它为基础研究出一些东西。”
“所以我需要一个测试人员,还有一个指挥人员,为我后续的操作提供帮助。”
“很明显从小依靠类似的东西长大的你,无疑是最好的人选。”
听到这里枫自然也明白了江遥的想法。
“原来如此。”
说着她自嘲的笑了笑,“大概情况我知道了,而且就我现在的情况我也没得选。”
“不过对于我来说这也是一件好事,毕竟我也想要去看看外面的世界。”
“把整个游戏场地从这一个星球变成整个大宇宙,其实对于我来说也是一个不错的选择。”
听到这里江遥也点了点头。
“既然如此那么预祝我们合作愉快。”
对此枫也点了点头。
“不过我很好奇,你之前和我提到过智脑的情况。”
“这东西存在这么多的隐患,你难道真的就这么自信它不会出现我们文明这样的情况?”
对于这一点江遥也点了点头。
相比于其他文明不可控的智脑江遥这边的完全是可控的,因为智脑的核心是使用的脑虫。
脑虫强大的运算能力完全可以替代核心,这样的话自己就不用担心智脑朝着一些不好的方向发展。
同时这也是集群意识体的好处。
集群意识体的单独个体是没有过多的想法,他们所有的想法都是服务于集群意识中的领袖。
说的简单一点,就是只要江遥开心了,那么整个族群就都开心了。
拥有者永远不会背叛自己的脑虫作为核心江遥完全不用担心,最后智脑会发展到自己不可掌控的地步。
这就是它和其他文明的最大区别。
也是因为有这个区别,江遥才敢放心大胆的去执行这个计划,制造这种计算机。
而此时把枫送走了之后,江遥这边的事情也算了却了一点,紧接着他要做的自然是想办法把文明的智脑给带走。
对于这一件事情他其实并不抱多大的希望,因为此时的他基本上已经确定智脑盯上他了。
对于这一点他并不意外,毕竟枫是智脑关注度比较高的人。
自己突然出手强行干预,如果不被注意到才真的奇了怪。
而当他一旦注意到自己,然后发现自己的能力根本就不是通过他,自己自然会被他视作于不可控因素或者是威胁。