第208章 机器人异变
陆星回家以后,没过几天就听说了寄生文明已入侵地球的事。
而且,科学家们推测寄生文明还是先到大海中潜伏,然后再以巨浪袭击地球文明的。
这不禁让陆星联想到了几天前的那次巨浪。
当时,他就觉得奇怪,没有大风,失去潮汐力的变化,大海怎么可能无缘无故掀起那么大的巨浪?
原来是有寄生文明在海中推波助澜。
而根据地球文明发出的警告,近期去过海边的人都有可能已被寄生,那曾兴致勃勃去冲浪的马少宇七人不会也被寄生了吧?
由于担心朋友安危,陆星正想打电话旁敲侧击一番。
然而,陆星却提前发现家中的机器人管家好像有点不太对劲。
于是,陆星立刻上前查看,这才发现,原来机器人管家竟在利用家中的智能设备查阅资料。
这种情况是基本不可能会发生的,因为机器人的系统权限设定,他们就不会做出这样的事来,对于机器人管家而言,他们的系统任务中只有打扫、做菜等与家居相关的事,多余的事绝不可能去做,系统也不会命令他们去做。
所以一般情况下,机器人都不会做出格的事。
但是眼前的情况却明显不一般,原本老实本分的机器人竟开始学习了?
毕业于计算机专业的陆星,对于计算机与软件开发有很深厚的知识,当即便明白了,肯定是有机器人系统出现了问题,如果不是相关权限被解除,那就是机器人绕过了底层权限设定。
这种情况可是非常危险的,意味着机器人有可能诞生自我意识。
早在发展机器人科技时,地球文明早就设想过了这一点,所以在软件方面控制得很严格,虽然许多高校内也有科学家在做相关的科学研究,但如果技术与风险评估不成熟,是绝不可能投入市场的。
想到这里,陆星立刻关闭机器人,并查看机器人管家的更新日志。
发现果然在今天更新了最新的系统版本,这肯定跟机器人管家的异常有关。
考虑到自己家购买的正是马氏集团的机器人,再考虑到马少宇的事,陆星决定还是亲自跑一趟比较好,打电话终究没有面对面说得清楚。
陆星当即开着车先来到了马家,却被告知马少宇正在公司。
随即,陆星又马不停蹄的来到马氏集团。
不过,当陆星提出想见马少宇的要求时却被前台机器人拒绝了,因为他没有预约。
无奈之下,陆星只能偷偷潜入大厦中,不过,在找寻马少宇的过程中,陆星却意外听到不远处的一个房间内传出争吵声。
陆星循着声音找到该房间后,发现里面只有两个人。
一个是正是马少宇,另一个却是马少宇的父亲马腾云,陆星有点不明白这父子俩怎会吵起来?
陆星正想出去劝架来的,却被马腾云的下一句话给震住了。
接下来,陆星默默在门边偷听一会儿后,方才对事情的整体脉络有一个大概的了解。
原来,当马少宇进入公司后,一直在找机会接触机器人系统维护与开发的业务,后来马少宇打听到系统部门近期打算对马氏集团旗下所有机器人品牌都进行一次重大更新,如今新版本的系统已经完成,只待再调整一些bug就可以推送了。
于是,马少宇趁着系统部门的人员下班之际,偷偷潜入了系统部。
然后,将体验版的系统修改了一番,往其中添加了一些不该添加的权限、解除了很多的限制,并提前进行了更新推送。
这也是陆星家中的机器人管家在更新了新系统后,忽然出现奇怪举动的原因,还好陆星及时发现,否则等机器人多学习一些知识,只怕后果不堪设想。
实际上,发生这样的事,后果早就难以控制了,毕竟全球用马氏集团的机器人的人非常之多,不是每个人都能及时发现的,想必那些机器人在一定的时间之后,肯定会发生难以想像的进化。
因为马少宇这一次对系统的修改很夸张。
他不只解除了原本地球文明在法律中所规定的诸多系统权限,还加入新代码,让机器人在面对一条命令指令时有无限种灵活选择,而不是像以前只有两三种选项,并且还将修改机器人系统的最高权限转给了每个机器人自己。
前面的一些权限也就算了,但后面的这两条,无论哪一条都是非常致命的。
因为如果机器人的思维逻辑没有被限制在一个范围内,那将意味着机器人可以用迂回的方式来抗拒命令,而不是面对命令坚决的执行,这等于是将好不容易建立起来的机器人的思维逻辑都给改变了,后果可是非常严重的。
就比如机器人本来设有不能破坏自己、以主人的命令为核心等思维逻辑,然而现有的思维逻辑改变后,机器人就会根据不同的情况做出不同的应对,他们也许会为了进化选择改装自己的身体,也许会因为主人的命令与自己的思维有冲突而拒绝,甚至会在新的思维逻辑下往未知的方向思考,产生很多的为什么?
这种过程,其实和人类慢慢从动物进化成智慧生命的过程很像。
人类在进化过程中,不只需要和环境对抗,还需要与自己身体里的生物系统对抗,原本生物系统中的基因遗传信息有着很多的生物指令(生物习惯),但随着人类智慧的一点点提高,这些原本的生物指令都被新的方式取代了。
至于第二点的最高修改权限的问题,即使不用解释,相信大家也明白是怎么回事。
一旦失去这个权限,那创造者就等于失去了对机器人的控制权,机器人不需要再通过他人修改bug,自己就可以实时修改进化,而且机器人在自我修改进化中,还是没有限制的那种,想怎么改就怎么改。
听到这里,陆星意识到马少宇肯定是被寄生了,否则不会做出这种事。
而后面发生的事,更是让陆星确认了这一点,只见马少宇竟突然趁马腾云不备,从后面偷袭将马腾云给杀害了!
“这该死的寄生混蛋,不只寄生杀害了马少宇,还把马腾云也给杀害了,我一定要让他付出代价!”
心中默念着这些话的同时,陆星却悄悄的离开了。
因为他担心自己不是寄生生物的对手,如果鲁莽冲出去只会白白送死,所以最好还是通知警方前来处理最为保险。
而且,科学家们推测寄生文明还是先到大海中潜伏,然后再以巨浪袭击地球文明的。
这不禁让陆星联想到了几天前的那次巨浪。
当时,他就觉得奇怪,没有大风,失去潮汐力的变化,大海怎么可能无缘无故掀起那么大的巨浪?
原来是有寄生文明在海中推波助澜。
而根据地球文明发出的警告,近期去过海边的人都有可能已被寄生,那曾兴致勃勃去冲浪的马少宇七人不会也被寄生了吧?
由于担心朋友安危,陆星正想打电话旁敲侧击一番。
然而,陆星却提前发现家中的机器人管家好像有点不太对劲。
于是,陆星立刻上前查看,这才发现,原来机器人管家竟在利用家中的智能设备查阅资料。
这种情况是基本不可能会发生的,因为机器人的系统权限设定,他们就不会做出这样的事来,对于机器人管家而言,他们的系统任务中只有打扫、做菜等与家居相关的事,多余的事绝不可能去做,系统也不会命令他们去做。
所以一般情况下,机器人都不会做出格的事。
但是眼前的情况却明显不一般,原本老实本分的机器人竟开始学习了?
毕业于计算机专业的陆星,对于计算机与软件开发有很深厚的知识,当即便明白了,肯定是有机器人系统出现了问题,如果不是相关权限被解除,那就是机器人绕过了底层权限设定。
这种情况可是非常危险的,意味着机器人有可能诞生自我意识。
早在发展机器人科技时,地球文明早就设想过了这一点,所以在软件方面控制得很严格,虽然许多高校内也有科学家在做相关的科学研究,但如果技术与风险评估不成熟,是绝不可能投入市场的。
想到这里,陆星立刻关闭机器人,并查看机器人管家的更新日志。
发现果然在今天更新了最新的系统版本,这肯定跟机器人管家的异常有关。
考虑到自己家购买的正是马氏集团的机器人,再考虑到马少宇的事,陆星决定还是亲自跑一趟比较好,打电话终究没有面对面说得清楚。
陆星当即开着车先来到了马家,却被告知马少宇正在公司。
随即,陆星又马不停蹄的来到马氏集团。
不过,当陆星提出想见马少宇的要求时却被前台机器人拒绝了,因为他没有预约。
无奈之下,陆星只能偷偷潜入大厦中,不过,在找寻马少宇的过程中,陆星却意外听到不远处的一个房间内传出争吵声。
陆星循着声音找到该房间后,发现里面只有两个人。
一个是正是马少宇,另一个却是马少宇的父亲马腾云,陆星有点不明白这父子俩怎会吵起来?
陆星正想出去劝架来的,却被马腾云的下一句话给震住了。
接下来,陆星默默在门边偷听一会儿后,方才对事情的整体脉络有一个大概的了解。
原来,当马少宇进入公司后,一直在找机会接触机器人系统维护与开发的业务,后来马少宇打听到系统部门近期打算对马氏集团旗下所有机器人品牌都进行一次重大更新,如今新版本的系统已经完成,只待再调整一些bug就可以推送了。
于是,马少宇趁着系统部门的人员下班之际,偷偷潜入了系统部。
然后,将体验版的系统修改了一番,往其中添加了一些不该添加的权限、解除了很多的限制,并提前进行了更新推送。
这也是陆星家中的机器人管家在更新了新系统后,忽然出现奇怪举动的原因,还好陆星及时发现,否则等机器人多学习一些知识,只怕后果不堪设想。
实际上,发生这样的事,后果早就难以控制了,毕竟全球用马氏集团的机器人的人非常之多,不是每个人都能及时发现的,想必那些机器人在一定的时间之后,肯定会发生难以想像的进化。
因为马少宇这一次对系统的修改很夸张。
他不只解除了原本地球文明在法律中所规定的诸多系统权限,还加入新代码,让机器人在面对一条命令指令时有无限种灵活选择,而不是像以前只有两三种选项,并且还将修改机器人系统的最高权限转给了每个机器人自己。
前面的一些权限也就算了,但后面的这两条,无论哪一条都是非常致命的。
因为如果机器人的思维逻辑没有被限制在一个范围内,那将意味着机器人可以用迂回的方式来抗拒命令,而不是面对命令坚决的执行,这等于是将好不容易建立起来的机器人的思维逻辑都给改变了,后果可是非常严重的。
就比如机器人本来设有不能破坏自己、以主人的命令为核心等思维逻辑,然而现有的思维逻辑改变后,机器人就会根据不同的情况做出不同的应对,他们也许会为了进化选择改装自己的身体,也许会因为主人的命令与自己的思维有冲突而拒绝,甚至会在新的思维逻辑下往未知的方向思考,产生很多的为什么?
这种过程,其实和人类慢慢从动物进化成智慧生命的过程很像。
人类在进化过程中,不只需要和环境对抗,还需要与自己身体里的生物系统对抗,原本生物系统中的基因遗传信息有着很多的生物指令(生物习惯),但随着人类智慧的一点点提高,这些原本的生物指令都被新的方式取代了。
至于第二点的最高修改权限的问题,即使不用解释,相信大家也明白是怎么回事。
一旦失去这个权限,那创造者就等于失去了对机器人的控制权,机器人不需要再通过他人修改bug,自己就可以实时修改进化,而且机器人在自我修改进化中,还是没有限制的那种,想怎么改就怎么改。
听到这里,陆星意识到马少宇肯定是被寄生了,否则不会做出这种事。
而后面发生的事,更是让陆星确认了这一点,只见马少宇竟突然趁马腾云不备,从后面偷袭将马腾云给杀害了!
“这该死的寄生混蛋,不只寄生杀害了马少宇,还把马腾云也给杀害了,我一定要让他付出代价!”
心中默念着这些话的同时,陆星却悄悄的离开了。
因为他担心自己不是寄生生物的对手,如果鲁莽冲出去只会白白送死,所以最好还是通知警方前来处理最为保险。