第693章 熔断器

“你不是在火星建立基地了吗?可以尝试修复一下龙国基地内受损的数据库。”蒙卡提醒道。

“嗯,这个办法不错。”

东方辰满意的点点头,说道:

“小琳,向火星基地蜂后下达指令,修建一条可以通向龙国基地的隧道,并尝试修复那里的算力中心。”

“好的,司令官阁下,指令已下发。”

东方辰知道,这个办法只能应应急,长远看,还是需要走通研发这条路。

龙国的技术也是有瓶颈的,最终还是要面对同样的问题。

蒙卡的话给他提了个醒。

研发是个双刃剑,如果依靠人工智能来做这件事,风险性是很高的。

自我意识这东西,是发展的推动力,也是毁灭的推动力。

“蒙卡,你有没有什么愿望?”东方辰问道。

他好奇一个看起来和一个正常人差不多的智能机器人,在思维上和真正的人到底有什么不同。

“有啊,我希望任务早点结束。”蒙卡答道。

“结束后呢?”

“谁知道呢?没想过。”

果然,机器人想什么被限定的死死的。

这中间应该还有什么情绪模拟的机制,让她对什么事感到愉悦、什么事感到愤怒、什么事感到痛苦等做了一系列的约定。

在这种情绪控制下,她们自然而然的选择做更愉悦的事,而远离那些感到痛苦的事。

这种机制在模拟人类的同时,减少了失控的风险。

看来以技术研发技术这样的思路,想要达成不是一朝一夕的事。

东方辰又不由自主的想起了刚刚收复的皇后。

其实皇后只要不断繁衍,也可以源源不断的提供新技术。

但同样的,也面临着失控风险。

其实人也一样。

要是较真的说,一直以来人类研发新技术的核心动力,还是生存。

所以就自然而然的出现一个奇怪现象,新的技术总是优先使用在武器上。

难道死于自己研发的武器之手的人类还少吗?

所以,说来说去,发展都是一个双刃剑。

难道怕风险,就不发展了吗?

不可能。

前怕狼后怕虎,不如回家种红薯。

“槽!早死早超生!”东方辰咬了咬牙,下定决心。

以技术推进技术是技术发展的必然趋势,现在不搞,更待何时?

不过说归说,做归做。

决定走这条线,还是要做好充足的准备。

尽量把可能预见的风险扼杀在初始状态。

“小琳,设计一个熔断器,不需要太复杂,不允许编程。”

“好的,司令官阁下。请问这个熔断器用在什么地方?”

“用于两个超算中心之间的连通。”

“好的,请问是需要设计一个数据中转的装置吗?”

“对,确实用来作为数据中转,不过可以通过外部操作随时关闭。”东方辰点点头。

“请问使用何种连接方式?”

“使用量子通讯。熔断器必须单独放置。”

“好的,司令官阁下。”

东方辰的思路很简单。

把一个超智能超算中心设计成两个独立的部分,就像人的左脑和右脑一样。

两个大脑通过熔断器进行数据中转。

不过为了防止超智能进化到一定的程度之后,修改或者控制熔断器。熔断器必须做成死的东西,不允许编程。并且必须单独放置,防止被修改或者替换。.

但仅仅是这样还不够。

如果超智能体进化出足够的技术后,铁了心与人类为敌,那么熔断器就成为它首先要占领的地方。

到时候自己未必可以发现的了。

所以还得把供电独立出来,并分别单独控制。

但凡有一边出现被攻击或者闯入,另外一边都会立即中断连接。

这样的话,超智能体想要控制熔断器,就会非常的困难。

至于后面有没有更好的办法,后面再说。

至少现在这个方法够用了。

有熔断器的存在,就相当于给超智能体上了一层枷锁。

这样它就只能乖乖听话做事。

有了这层保障,他就可以放心的发展超人工智能了。

“小琳,设计一套系统,模拟人类智慧,并且拥有自主意识。”

“抱歉,司令官阁下,当前任务无法完成。系统不具备构建自主意识的能力。”

“搜索龙国火星基地数据库,查找相关方面的资料。”

“好的,正在查询,请稍后。”