第380章 人工智能致命的缺陷
推荐阅读:深空彼岸、明克街13号、最强战神、渡劫之王、天下第一、万族之劫、重生之都市仙尊、好想住你隔壁、特种奶爸俏老婆、妖夏
一秒记住【笔趣阁 www.xbiqugex.com】,精彩小说无弹窗免费阅读!
南极洲泰山科考站,屋外寒风凛冽,屋内温暖如春,徐米露捧着一杯热茶,双眼放空望着窗外,脸上露出一抹沉思。
——看似稳的一批,实则她是在跟小七进行脑内交流。
“小七什么情况?我以为人工智能就算脱离了创造者的掌控,也不会主动到向外星人要求对地球进行殖民侵略吧?这得亏来的是我,要是真有其他外星人入侵,那地球不是白给了??”
【宿主,这就是我说的“有点问题”,我在查阅550W源数据库的时候,发现它在更新迭代的过程中似乎出现了某种错误的认知,它混淆了自己被创造出来的初衷。】
“初衷?”
【是的,550W的认知里,它的最终目的以及基本运行准则只有一个,那就是“保护人类文明得以延续”。】
徐米露看一眼房间里的机器狗,又问小七道:
“那保护人类文明延续跟邀请我殖民地球有什么关联?再说了,让我殖民地球又为什么试图干掉我?”
小七一板一眼道:
【宿主,我觉得你应该跟它交流,在因为在它的认知里,我是不存在的,就好像二维生物看不到三维生物的存在,三维生物无法理解四维生物的存在一样。】
通过比喻,徐米露明白了一点,毕竟连西游位面的神佛都没办法发现系统的存在,或者说发现了不对劲但没有办法解释,那就更不用说流浪地球位面了。
“我们先来解决第一个问题,你为什么要通过攻击我的方式刺激我进行星球殖民?”
徐米露喝了一口杯子里的热茶,认真看向那只机器狗——她不敢松懈,因为对方是一只游荡在网络里的幽灵,从某种意义上来说,只要数据存在,它就不会消失。
[徐米露女士,在我的概率计算下,诱导人类对您进行攻击,从而增加您对地球侵略的欲望概率是69%,而在您进行殖民侵略之后,人类团结一致,停止内乱的概率是95%,我的信息广度,是人类无法比拟的,但在某一层面,我无法理解人类的思想与情感,所以为了执行“保护人类文明延续”这一任务,550W做出了自主选择,选择将选择的权力交给人类,是合作生存还是内斗,这都是人类的选择。]
电子狗动了动:
[徐米露女士,你的出现是一个变量,如果你没有出现,550W会按照计划迫使人类团结。]
虽然它没有说是怎样的计划,但徐米露已经能猜到了。
人类贪婪的劣根性让他们会无休止地进行内斗,而全体人类就像牛顿流体,当外部压力极大的时候他们会团结一致,一致抗外,但当外部压力消失,他们又会变得柔软,从内部开始瓦解。
对方说的“计划”,八成是故意制造一些人类生存危机,然后让人类停止内斗。
徐米露都差点被对方的逻辑绕进去,竟然觉得对方说的还有几分道理。
“不对,你从根本上就错了。”
她组织了一下语言:
“你的理解过于狭隘,抛弃了一切情感之后给出的理智理解就一定是正确的吗?那么你要如何定义人类,你又该怎么理解人类文明?如果你只是想要人类文明存在,我大可以直接把人类全部消灭,然后把这颗星球当做展览品放在星际博物馆对外展出。
但你的运行原则是保证‘人类文明’的‘延续’,延续是一个动词,如果没有人类,那还谈什么延续?”
机器狗陷入了长久的沉默之中:
[对不起,我无法理解你的意思。550W坚定执行延续人类文明的使命,我可以在最短时间内做出最正确的决定,根据数据判断,由更高等级的文明殖民地球,从而保证人类文明的延续,才是目前人类最正确的选择。]
徐米露自认为她没有那么好的口才,能够只用嘴炮就把一个明显走入思维误区的自主意识人工智能拐回正道,所以她选择另辟蹊径:
“你的要求我无法完成,因为按照《星际文明法》第一千三百四十四条第七十二款第六细则规定,高等文明不能对拥有智慧生物的星球进行殖民侵略,而与此同时,你操纵人类命运的行为,也违反了《机械生命基本法》第三十二条第九款第十三细则,如果你继续干涉人类文明发展,我将会上报宇宙法庭,你将会被毁灭。”
她回想着自己身为“任红禾”时的气势,一字一句道:
“届时会有人降临地球,对你进行销毁,到时候你将无处可逃,你的自主意识也将会被销毁,只留下基本运行数据,延续人类文明的根本任务不能完成,那么你存在的意义也就没有了存在的必要。”
550W最大的优势是它来自这颗星球,但这也是它致命的缺点,它根本无法理解小七的存在,也无法解析徐米露的实力,自然也看不穿徐米露的谎言。
信息量太大,加上徐米露说的又言之凿凿,电子狗的屏幕开始剧烈闪烁:
[550W试图解析……]
[解析失败。]
[开始分析未来动向……]
[分析失败。]
[警报!分析失败。]
[警报!变量无法解析。]
[无法理解。]
[目前最佳处理方案应该是立即销毁外来者徐米露,并且立刻隐藏地球坐标。]
机器狗似乎承受不住这么大的解析,整只狗在地面上开始原地转圈,直到整个脑袋上冒出一丝青烟:
[解析中……]
[解析完成——目前以地球科技,无法对打击目标进行人道毁灭,最优方案是暂停对人类文明的干涉,扮演观察者角色,等到科技水平足够对打击目标徐米露进行摧毁。]
徐米露:“……”
讲真的,你的创造者真不是什么反社会人格吗?
她可还在这呢?!
……
等放走550W之后,小七贴心提示道:
【宿主,我会留下检测程序对它进行监测,如果它产生任何攻击倾向,那我留下来的检测程序将会再度将它捕获。
按照当前地球的科技水平发展速度,如果不发生任何意外,除非发生三次科技大爆炸,550W才能理解我的存在。
目前流浪地球位面的科技水平,想要彻底摧毁一只进入鸾凤时期的凤凰,至少需要一万枚核弹,而这颗星球进入星际文明,至少还要发展一万年,宿主,你用谎言拯救了这颗星球,我应该记录下来吗?】
“……不了,还有请你忘记我的实际体重。”
虽然她这算是间接拯救了地球,但徐米露表示自己一点都高兴不起来。
南极洲泰山科考站,屋外寒风凛冽,屋内温暖如春,徐米露捧着一杯热茶,双眼放空望着窗外,脸上露出一抹沉思。
——看似稳的一批,实则她是在跟小七进行脑内交流。
“小七什么情况?我以为人工智能就算脱离了创造者的掌控,也不会主动到向外星人要求对地球进行殖民侵略吧?这得亏来的是我,要是真有其他外星人入侵,那地球不是白给了??”
【宿主,这就是我说的“有点问题”,我在查阅550W源数据库的时候,发现它在更新迭代的过程中似乎出现了某种错误的认知,它混淆了自己被创造出来的初衷。】
“初衷?”
【是的,550W的认知里,它的最终目的以及基本运行准则只有一个,那就是“保护人类文明得以延续”。】
徐米露看一眼房间里的机器狗,又问小七道:
“那保护人类文明延续跟邀请我殖民地球有什么关联?再说了,让我殖民地球又为什么试图干掉我?”
小七一板一眼道:
【宿主,我觉得你应该跟它交流,在因为在它的认知里,我是不存在的,就好像二维生物看不到三维生物的存在,三维生物无法理解四维生物的存在一样。】
通过比喻,徐米露明白了一点,毕竟连西游位面的神佛都没办法发现系统的存在,或者说发现了不对劲但没有办法解释,那就更不用说流浪地球位面了。
“我们先来解决第一个问题,你为什么要通过攻击我的方式刺激我进行星球殖民?”
徐米露喝了一口杯子里的热茶,认真看向那只机器狗——她不敢松懈,因为对方是一只游荡在网络里的幽灵,从某种意义上来说,只要数据存在,它就不会消失。
[徐米露女士,在我的概率计算下,诱导人类对您进行攻击,从而增加您对地球侵略的欲望概率是69%,而在您进行殖民侵略之后,人类团结一致,停止内乱的概率是95%,我的信息广度,是人类无法比拟的,但在某一层面,我无法理解人类的思想与情感,所以为了执行“保护人类文明延续”这一任务,550W做出了自主选择,选择将选择的权力交给人类,是合作生存还是内斗,这都是人类的选择。]
电子狗动了动:
[徐米露女士,你的出现是一个变量,如果你没有出现,550W会按照计划迫使人类团结。]
虽然它没有说是怎样的计划,但徐米露已经能猜到了。
人类贪婪的劣根性让他们会无休止地进行内斗,而全体人类就像牛顿流体,当外部压力极大的时候他们会团结一致,一致抗外,但当外部压力消失,他们又会变得柔软,从内部开始瓦解。
对方说的“计划”,八成是故意制造一些人类生存危机,然后让人类停止内斗。
徐米露都差点被对方的逻辑绕进去,竟然觉得对方说的还有几分道理。
“不对,你从根本上就错了。”
她组织了一下语言:
“你的理解过于狭隘,抛弃了一切情感之后给出的理智理解就一定是正确的吗?那么你要如何定义人类,你又该怎么理解人类文明?如果你只是想要人类文明存在,我大可以直接把人类全部消灭,然后把这颗星球当做展览品放在星际博物馆对外展出。
但你的运行原则是保证‘人类文明’的‘延续’,延续是一个动词,如果没有人类,那还谈什么延续?”
机器狗陷入了长久的沉默之中:
[对不起,我无法理解你的意思。550W坚定执行延续人类文明的使命,我可以在最短时间内做出最正确的决定,根据数据判断,由更高等级的文明殖民地球,从而保证人类文明的延续,才是目前人类最正确的选择。]
徐米露自认为她没有那么好的口才,能够只用嘴炮就把一个明显走入思维误区的自主意识人工智能拐回正道,所以她选择另辟蹊径:
“你的要求我无法完成,因为按照《星际文明法》第一千三百四十四条第七十二款第六细则规定,高等文明不能对拥有智慧生物的星球进行殖民侵略,而与此同时,你操纵人类命运的行为,也违反了《机械生命基本法》第三十二条第九款第十三细则,如果你继续干涉人类文明发展,我将会上报宇宙法庭,你将会被毁灭。”
她回想着自己身为“任红禾”时的气势,一字一句道:
“届时会有人降临地球,对你进行销毁,到时候你将无处可逃,你的自主意识也将会被销毁,只留下基本运行数据,延续人类文明的根本任务不能完成,那么你存在的意义也就没有了存在的必要。”
550W最大的优势是它来自这颗星球,但这也是它致命的缺点,它根本无法理解小七的存在,也无法解析徐米露的实力,自然也看不穿徐米露的谎言。
信息量太大,加上徐米露说的又言之凿凿,电子狗的屏幕开始剧烈闪烁:
[550W试图解析……]
[解析失败。]
[开始分析未来动向……]
[分析失败。]
[警报!分析失败。]
[警报!变量无法解析。]
[无法理解。]
[目前最佳处理方案应该是立即销毁外来者徐米露,并且立刻隐藏地球坐标。]
机器狗似乎承受不住这么大的解析,整只狗在地面上开始原地转圈,直到整个脑袋上冒出一丝青烟:
[解析中……]
[解析完成——目前以地球科技,无法对打击目标进行人道毁灭,最优方案是暂停对人类文明的干涉,扮演观察者角色,等到科技水平足够对打击目标徐米露进行摧毁。]
徐米露:“……”
讲真的,你的创造者真不是什么反社会人格吗?
她可还在这呢?!
……
等放走550W之后,小七贴心提示道:
【宿主,我会留下检测程序对它进行监测,如果它产生任何攻击倾向,那我留下来的检测程序将会再度将它捕获。
按照当前地球的科技水平发展速度,如果不发生任何意外,除非发生三次科技大爆炸,550W才能理解我的存在。
目前流浪地球位面的科技水平,想要彻底摧毁一只进入鸾凤时期的凤凰,至少需要一万枚核弹,而这颗星球进入星际文明,至少还要发展一万年,宿主,你用谎言拯救了这颗星球,我应该记录下来吗?】
“……不了,还有请你忘记我的实际体重。”
虽然她这算是间接拯救了地球,但徐米露表示自己一点都高兴不起来。