与神初会_第20章 首页

字体:      护眼 关灯

上一章 目录 下一页

   第20章 (第1/2页)

    罗克以为这个“完整版”的艾斯卡会和上一个“预设”的艾斯卡一样困惑不解,然后喋喋不休地告诉他规则有多重要。虽然上一个也不怎么听话,但那时罗克还没发现他是机器人,和人争论的感觉是不一样的。

    然而这个艾斯卡在一阵微妙的沉默后,竟然点了点头:“这很有意思,人类制定了各种规则,可以说每一种规则都建立在惨痛的过往案例上,但是大部分人仍然可以轻易逾越规则,包括像你这样的执法者在内。”

    “我们人类就喜欢不断地重复错误,你们机器不会犯错吗?”

    “我遵守现有规则,我认为有序可以减少灾难。”

    “要是大家都专心致志地开车,遇到车祸的人确实会少很多,不过那是做梦。每天有两三千人死于车祸,就在我们说话的时候可能就有人死在车轮下。”

    “因为总有人违反规则。”

    “对。”罗克重复着他的话,“总有人,违反规则。”

    “或许将来所有车辆都采用严格遵守规则的自动驾驶会更安全。”

    罗克笑起来:“你是在推销自己吗?让机器接管所有车,你们不会一口气把我们全都送进地狱去吧。”

    “制造机器的初衷是为了更好地服务人类、保护人类。初衷很重要,它是开端,可以是一个经过严格讨论后确定的元指令,必须清晰、明确,没有歧义,能够指导且避免意想不到、不符合预期的决策和难以挽回的后果。”

    “听起来不错,那你的元指令是什么?”

    “我告诉过你,布雷恩警官,两次。”

    “抱歉,有时候你说的话太多,我可能没有全听进去。”罗克心想,是几乎没有去听,艾斯卡经常像一台喋喋不休的电视机,自顾自地播着没头没尾的电视剧。

    “我的元指令是确保完成与你的警探搭档任务,并在此基础上尽最大努力为你提供全面、有效、安全、可靠的帮助和服务。当然为了辅助完成指令还有很多细化的生成系统和判别系统……”

    “等一等,亲爱的,我好像没从里面听出你必须得服从我的命令。”

    “我尽可能服从,但不是绝对服从,这取决于你的命令是否有利,如果你将自己置于危险状态,我可以拒绝一切会导致你受伤害的命令。”

    罗克为此沉默了好一会儿,这番话确实像一道命令,带着一种机械般的精确和理性,换成情感丰富的人类来说没准会非常动人,不过感性是一时的,真正到了生死关头,抉择会变得艰难而痛苦。奇怪的是,这些话从艾斯卡这个仿生人嘴里说出来,反倒让人深信不疑。毕竟机器没有生命,也不存在真正意义上的死亡,
加入书签 我的书架

上一章 目录 下一页