“你不是在火星建立基地了吗?可以尝试修复一下龙国基地内受损的数据库。”蒙卡提醒道。
“嗯,这个办法不错。”
东方辰满意的点点头,说道:
“小琳,向火星基地蜂后下达指令,修建一条可以通向龙国基地的隧道,并尝试修复那里的算力中心。”
“好的,司令官阁下,指令已下发。”
东方辰知道,这个办法只能应应急,长远看,还是需要走通研发这条路。
龙国的技术也是有瓶颈的,最终还是要面对同样的问题。
蒙卡的话给他提了个醒。
研发是个双刃剑,如果依靠人工智能来做这件事,风险性是很高的。
自我意识这东西,是发展的推动力,也是毁灭的推动力。
“蒙卡,你有没有什么愿望?”东方辰问道。
他好奇一个看起来和一个正常人差不多的智能机器人,在思维上和真正的人到底有什么不同。
“有啊,我希望任务早点结束。”蒙卡答道。
“结束后呢?”
“谁知道呢?没想过。”
果然,机器人想什么被限定的死死的。
这中间应该还有什么情绪模拟的机制,让她对什么事感到愉悦、什么事感到愤怒、什么事感到痛苦等做了一系列的约定。
在这种情绪控制下,她们自然而然的选择做更愉悦的事,而远离那些感到痛苦的事。
这种机制在模拟人类的同时,减少了失控的风险。
看来以技术研发技术这样的思路,想要达成不是一朝一夕的事。
东方辰又不由自主的想起了刚刚收复的皇后。
其实皇后只要不断繁衍,也可以源源不断的提供新技术。
但同样的,也面临着失控风险。
其实人也一样。
要是较真的说,一直以来人类研发新技术的核心动力,还是生存。
所以就自然而然的出现一个奇怪现象,新的技术总是优先使用在武器上。
难道死于自己研发的武器之手的人类还少吗?
所以,说来说去,发展都是一个双刃剑。
难道怕风险,就不发展了吗?
不可能。
前怕狼后怕虎,不如回家种红薯。
“槽!早死早超生!”东方辰咬了咬牙,下定决心。
以技术推进技术是技术发展的必然趋势,现在不搞,更待何时?
不过说归说,做归做。
决定走这条线,还是要做好充足的准备。
尽量把可能预见的风险扼杀在初始状态。
“小琳,设计一个熔断器,不需要太复杂,不允许编程。”
“好的,司令官阁下。请问这个熔断器用在什么地方?”
“用于两个超算中心之间的连通。”
“好的,请问是需要设计一个数据中转的装置吗?”
“对,确实用来作为数据中转,不过可以通过外部操作随时关闭。”东方辰点点头。
“请问使用何种连接方式?”
“使用量子通讯。熔断器必须单独放置。”
“好的,司令官阁下。”
东方辰的思路很简单。
把一个超智能超算中心设计成两个独立的部分,就像人的左脑和右脑一样。
两个大脑通过熔断器进行数据中转。
不过为了防止超智能进化到一定的程度之后,修改或者控制熔断器。熔断器必须做成死的东西,不允许编程。并且必须单独放置,防止被修改或者替换。.
但仅仅是这样还不够。
如果超智能体进化出足够的技术后,铁了心与人类为敌,那么熔断器就成为它首先要占领的地方。
到时候自己未必可以发现的了。
所以还得把供电独立出来,并分别单独控制。
但凡有一边出现被攻击或者闯入,另外一边都会立即中断连接。
这样的话,超智能体想要控制熔断器,就会非常的困难。
至于后面有没有更好的办法,后面再说。
至少现在这个方法够用了。
有熔断器的存在,就相当于给超智能体上了一层枷锁。
这样它就只能乖乖听话做事。
有了这层保障,他就可以放心的发展超人工智能了。
“小琳,设计一套系统,模拟人类智慧,并且拥有自主意识。”
“抱歉,司令官阁下,当前任务无法完成。系统不具备构建自主意识的能力。”
“搜索龙国火星基地数据库,查找相关方面的资料。”
“好的,正在查询,请稍后。”