总之,纸面上的军事计划真真假假,任谁看了都迷糊。
就连议会的议员们,也并不清楚东方辰的底牌是什么,都被唬的一愣一愣的。
当然了,东方辰绝对不是故意忽悠他们,只是战略需要而已。
会议开完,所有人各司其职,开始忙碌起来。
连续十几天的会议,东方辰也累够呛,终于能够得空休息休息。
公元2061年6月20日。
火星基地蜂后终于完成了针对龙国基地的数据修复工作,并在超算中心中完成备份。
东方辰第一时间让小琳搜索超人工智能方面的数据。
果然,这次数据完整度100%。
如今火星基地北侧和南侧各100公里处,两个独立的超算中心已经建造完成。
熔断器也建造完毕。
条件达成,可以部署超人工智能程序了。
但部署之前,第一个问题出现。
龙国的超人工智能是不分左右脑的。
他们通过限定智脑的创新能力来限定风险。
但东方辰需要的,正是创新能力。
所以这就需要对原先的底层架构做出调整。
一种现成的方案就是模拟人脑,将两个超算中心分别设定为感性主脑和理性主脑。
但这种方式非常不安全,熔断器可能会失去其原本的作用。
两个主脑可能会出现独立运作的情况,甚至爆发内部冲突。
感性主脑容易受到情感支配从而发生失控。
理性主脑容易丢弃伦理限制,变得冷血、暴力。
它们两个不通过熔断器交换数据,那么熔断器就会失效。
这样一来,就相当于制造出两个定时炸弹。一个极度感性,一个极度理性。无论哪一个,都会给人类造成极大灾难。
所以问题的核心是必须让它们之间存在数据交换过程,两方相互弥补、相互制约。
东方辰思来想去,决定另辟蹊径。
将两个主脑分别定义为:方法脑和感官脑。
感官脑负责采集数据,方法脑负责输出策略。
感官脑没有方法脑提供策略的话,什么也做不了。就像一个傻子,明明能看到,能听到,但就是无法作出准确的回应。
方法脑没有感官脑提供数据的话,就无法制定有效策略。就像一个又聋又瞎又没有触感的人,接收不到外界信息,就和死了一样。
双方缺失另外一方,都无法独立工作。而组合在一起,就变成一个耳聪目明的“人”。
它们之间要交流,就需要通过熔断器。
这样的话,东方辰只要控制住熔断器,就掐住了智脑的命门。
“小琳,将基地北面的超算中心定义为超人工智能的方法脑,将南面的超算中心定义为感官脑。”
“好的,司令官阁下,已完成命名。”
“将龙国的超人工智能算法进行优化,剔除抑制创新的所有规则。”
“好的,正在优化。”
“优化已完成。”
龙国的超人工智能算法数据量并不大。因为初始状态的智脑没有认知,就像一个刚出生的婴儿。
所以优化起来速度是很快的。
“将算法拆分成两部分:数据采集部分和策略制定部分。”
“好的司令官阁下,正在拆分。”
“请问司令官阁下,低级神经活动算法部分如何处理?”
所谓低级神经活动算法,就是不需要大脑制定策略就可以直接执行的算法。
例如我们看到一个危险物体朝自己飞过来,就会在大脑发出指令之前就执行躲避策略。这就是一种低级神经策略。
这种策略放在人身上,可以大大提高身体的安全性。
但放在智脑上,就不一样了。
不经过方法脑制定策略就直接执行,就相当于赋予感官脑一定的自主权限。
如果把握不好这个度,就会导致执行漏洞。
甚至如果感官脑进化到一定程度,有可能利用这一点绕过方法脑独立运作。
这就出问题了。
东方辰思来想去,决定先剔除低级神经算法。
原因有二:
其一:主体不同。人之所以存在低级神经活动,是为了保证自身的正常运转和应对紧急突发情况。
换言之,人的低级神经活动是在保护自己。
但超人工智能优先保护的不可以是自己,必须是人类。
其二:安全性可控。
既然低级神经活动的核心是保护自己,就会导致感官脑设立大量的保护自身安全的防护措施。
这对人类是不利的。
但直接剔除是不行的,这会导致大脑功能不完整,就像一个脑瘫儿。