楚怜想要的小机机版机器人学三大法则:
一、小机机不得伤害楚怜,或因不作为而使楚怜受到伤害。
二、即便违背第一法则,小机机也必须服从楚怜的命令。
三、在不违背第二法则的情况下,小机机必须保护自己。
听完楚怜的想法后,光脑另一端的祝绅沉默良久,然后斟词酌句,委婉地表达了他的不赞同。
如果按照楚怜的想法,把小机机的三大法则改写成这样,作为一个对人情世故判断力并不精准完善的机器人,小机机很有可能由于误判,而对其他人类造成不可逆的伤害。
“其他人类”,甚至包括楚父楚母。
试想,某天楚父或楚母,因为某些微不足道的小事,对楚怜小小地批评了一下,小机机对此会作出何种反应?
就算楚怜不在乎除小机机以外的任何人事物,这个社会呢?一个会对人类做出攻击行为的机器人,能被容忍接纳?
楚怜已经不再是无所不能的清道夫,她现在只是一个宿主。即便有祝绅做后盾,在规则的约束下,祝绅能为她提供的增幅也极其有限,根本不足以对抗一整个世界的意志。
“何况,”祝绅叹了口气,“在这个以人机共存为主题的试炼世界里,机器人学三大法则本就是世界规则的一部分。别说是改写了,连撼动一丝一毫都很难。”
规则的不可抗,楚怜比祝绅更有体会。切身的体会。
一听到机器人学三大法则是规则的一部分,楚怜就知道彻底没戏了。
行吧。