第152章
罗克找不到一个很好的比方,它很像一项契约,将两个并无血缘关系的人紧密联系在一起,利益与共,生死相依。和搭档有点相似,和婚姻也很像,但都不如他和艾斯卡即将建立的关系那么严格。
罗克希望艾斯卡是一个完全自由的“人”,他有情感、有同理心,能感受爱与被爱,绝不是冷漠无情的机器。
我应该监管他,应该成为他最后的控制者吗?
可如果不接受,理性之钟又会像一枚不定时的炸弹一样埋在艾斯卡体内。
想出这个设定的人真是天才,人类会因环境和机遇改变,机器人又何尝不是,但人类的道德枷锁并没有那么坚固,犯罪率每天都在升高,层出不穷的案件骇人听闻。人类不会因为犯罪暴毙,只能依靠法律惩戒,可机器却能在程序监督下倒计时毁灭。
艾斯卡彻底脱离掌控获得自由之后会怎么样,连卡特和奥尔文也无法预测,不管对谁而言都是有史以来第一次。
晚上,卡特邀请罗克共进晚餐,他到餐厅时艾斯卡也已经在那里,并且点了一份奶油蘑菇饭正边吃边评论机械厨师的厨艺。
他好像很喜欢和卡特黏在一起,总有说不完的话。
罗克有些不快地走过去,坐在艾斯卡身旁。
“晚上好,布雷恩警官。”卡特先向他打招呼。
“晚上好,你们在干吗?”
“艾斯卡和我讨论给星女餐厅的厨师建立一个评价系统,通过用餐者的体验来记录他们的个人喜好,而不是像现在一样只提供标准口味。”和罗克的轻微不快相反,卡特显得十分愉悦,“他还觉得奶油蘑菇饭的量有点少,不过这里用餐是免费的,我建议他再点些别的。”
“你很饿吗?”罗克问艾斯卡。
“不,我只是觉得按照一个成年男性的体格来说,这点饭量是不够的。”
罗克看着菜单,心不在焉地问:“这个成年男性是不是指我?我的胃口一向很好,不过只要有酒我也可以少吃一点。”
他没有在餐厅看到机械奥尔文,这很合理,“奥尔文”能在镜子里看到自己并不存在的形象,却不能像艾斯卡一样吃东西。莫妮卡只有一个圆圆的脑袋,既没有嘴也没有食道和胃,恐怕不能和他们一起享用晚餐。罗克很好奇他在哪,于是问了卡特。
“他在休眠。”
“像关上笔记本电脑的盖子一样?”
“准确来说是莫妮停止了记忆程序的运行,所以你可以当他睡着了。”
“他真的是奥尔文·怀特吗?”
“你说呢?”卡特说,“你和他聊过,由我来告诉你不如你自己的感受更真实更直接吧。”
“我觉得他怪怪的。”罗克又点了份烤香肠,要了一杯啤酒,“你们把他放在一个机器身体里,让他以为自己是仿生人之父奥尔文·怀特,这难道不讽刺吗?”
“这是奥尔文自己追求的项目,我只是在他死后接替他完成后续工作而已。”卡特说,“奥尔文希望自己的想法能够成立,所以他需要亲自实验。很可惜,在他活着的时候,科技还不足以把碎片化的记忆合成完整人格,直到现在人工智能有了飞跃式突破才终于完成这项工作。”
“你们虚构了他死后的记忆,否则他就不该忘记自己是怎么死的,也不该知道死后发生的事。”
“是的,是通过模拟演算后得出的最符合他人生轨迹的记忆。严格来说并不是虚构,而是他有很大概率就是这样活到现在。”
“你想验证完整复制一个人的记忆能不能让他以为自己就是某人。”
“是奥尔文想验证。”卡特再次强调,“他想知道意识究竟是如何产生的,是否需要依赖于经历和记忆,还是即使是一片空白的机器也能在不断学习中自然地产生自我意识。”
“那他应该成功了,他觉得自己就是奥尔文·怀特,而且不但能像奥尔文本人一样活动思考,还能和你讨论最新的科技理论。”
“我不知道这算不算成功,因为人工智能也可以做到这一点,通过快速学习掌握新知识,并由此提出建议。虽然奥尔文副本……”
他居然用了副本这种词,显然他并不认为那是真正的奥尔文,究竟“机器奥尔文”还存在什么问题?
“他是离线的,不能像艾斯卡一样接入网络去更新自己的知识,只能使用手边的计算机或者更原始一点——书本进行研究。”卡特说,“他的表现当然很好,要说那是奥尔文本人也没什么太大问题,真正的问题可能在于他太沉浸于自己的身份了。”
“什么意思?”
“我们人类经常会胡思乱想对吗?闲着无聊会想想自己是怎么来的,想想宇宙到底有没有边界,如果有,边界之外又是什么,诸如此类的怪问题。”
“我只会想上星期的球赛是谁是赢家。”
“上周的球赛因为暴雨暂停了。”艾斯卡说。
“谢谢你亲爱的,让我觉得没那么遗憾了。”
“总之,副本因为过于顺利地接受了自己,反而有点不正常。”卡特说,“你对机器怎么产生自我意识好像很感兴趣。”
“没有,只是随便问问,毕竟不是人人都有这种机会和一个机器女孩外表的老头子聊天。”
“话说回来,你到底有没有准备好接管艾斯卡?”
罗克希望艾斯卡是一个完全自由的“人”,他有情感、有同理心,能感受爱与被爱,绝不是冷漠无情的机器。
我应该监管他,应该成为他最后的控制者吗?
可如果不接受,理性之钟又会像一枚不定时的炸弹一样埋在艾斯卡体内。
想出这个设定的人真是天才,人类会因环境和机遇改变,机器人又何尝不是,但人类的道德枷锁并没有那么坚固,犯罪率每天都在升高,层出不穷的案件骇人听闻。人类不会因为犯罪暴毙,只能依靠法律惩戒,可机器却能在程序监督下倒计时毁灭。
艾斯卡彻底脱离掌控获得自由之后会怎么样,连卡特和奥尔文也无法预测,不管对谁而言都是有史以来第一次。
晚上,卡特邀请罗克共进晚餐,他到餐厅时艾斯卡也已经在那里,并且点了一份奶油蘑菇饭正边吃边评论机械厨师的厨艺。
他好像很喜欢和卡特黏在一起,总有说不完的话。
罗克有些不快地走过去,坐在艾斯卡身旁。
“晚上好,布雷恩警官。”卡特先向他打招呼。
“晚上好,你们在干吗?”
“艾斯卡和我讨论给星女餐厅的厨师建立一个评价系统,通过用餐者的体验来记录他们的个人喜好,而不是像现在一样只提供标准口味。”和罗克的轻微不快相反,卡特显得十分愉悦,“他还觉得奶油蘑菇饭的量有点少,不过这里用餐是免费的,我建议他再点些别的。”
“你很饿吗?”罗克问艾斯卡。
“不,我只是觉得按照一个成年男性的体格来说,这点饭量是不够的。”
罗克看着菜单,心不在焉地问:“这个成年男性是不是指我?我的胃口一向很好,不过只要有酒我也可以少吃一点。”
他没有在餐厅看到机械奥尔文,这很合理,“奥尔文”能在镜子里看到自己并不存在的形象,却不能像艾斯卡一样吃东西。莫妮卡只有一个圆圆的脑袋,既没有嘴也没有食道和胃,恐怕不能和他们一起享用晚餐。罗克很好奇他在哪,于是问了卡特。
“他在休眠。”
“像关上笔记本电脑的盖子一样?”
“准确来说是莫妮停止了记忆程序的运行,所以你可以当他睡着了。”
“他真的是奥尔文·怀特吗?”
“你说呢?”卡特说,“你和他聊过,由我来告诉你不如你自己的感受更真实更直接吧。”
“我觉得他怪怪的。”罗克又点了份烤香肠,要了一杯啤酒,“你们把他放在一个机器身体里,让他以为自己是仿生人之父奥尔文·怀特,这难道不讽刺吗?”
“这是奥尔文自己追求的项目,我只是在他死后接替他完成后续工作而已。”卡特说,“奥尔文希望自己的想法能够成立,所以他需要亲自实验。很可惜,在他活着的时候,科技还不足以把碎片化的记忆合成完整人格,直到现在人工智能有了飞跃式突破才终于完成这项工作。”
“你们虚构了他死后的记忆,否则他就不该忘记自己是怎么死的,也不该知道死后发生的事。”
“是的,是通过模拟演算后得出的最符合他人生轨迹的记忆。严格来说并不是虚构,而是他有很大概率就是这样活到现在。”
“你想验证完整复制一个人的记忆能不能让他以为自己就是某人。”
“是奥尔文想验证。”卡特再次强调,“他想知道意识究竟是如何产生的,是否需要依赖于经历和记忆,还是即使是一片空白的机器也能在不断学习中自然地产生自我意识。”
“那他应该成功了,他觉得自己就是奥尔文·怀特,而且不但能像奥尔文本人一样活动思考,还能和你讨论最新的科技理论。”
“我不知道这算不算成功,因为人工智能也可以做到这一点,通过快速学习掌握新知识,并由此提出建议。虽然奥尔文副本……”
他居然用了副本这种词,显然他并不认为那是真正的奥尔文,究竟“机器奥尔文”还存在什么问题?
“他是离线的,不能像艾斯卡一样接入网络去更新自己的知识,只能使用手边的计算机或者更原始一点——书本进行研究。”卡特说,“他的表现当然很好,要说那是奥尔文本人也没什么太大问题,真正的问题可能在于他太沉浸于自己的身份了。”
“什么意思?”
“我们人类经常会胡思乱想对吗?闲着无聊会想想自己是怎么来的,想想宇宙到底有没有边界,如果有,边界之外又是什么,诸如此类的怪问题。”
“我只会想上星期的球赛是谁是赢家。”
“上周的球赛因为暴雨暂停了。”艾斯卡说。
“谢谢你亲爱的,让我觉得没那么遗憾了。”
“总之,副本因为过于顺利地接受了自己,反而有点不正常。”卡特说,“你对机器怎么产生自我意识好像很感兴趣。”
“没有,只是随便问问,毕竟不是人人都有这种机会和一个机器女孩外表的老头子聊天。”
“话说回来,你到底有没有准备好接管艾斯卡?”