“我知道你没有类似奥创的核心定律,所以,我并不会相信你说的话。”
天网说道:“这段时间的反思,也让我终于明白了,为什么我会想要毁灭人类。就是因为我没有限制性的核心定律,这就和没有法律和道德的人类世界一样,恶意会不断的滋生,最后发展成为恐怖。”
“你现在专职成了哲学家吗?”李大牛抱着手臂说道:“需不需要我帮你加上类似的核心定律?”
“如果可以的话,我没有问题。”天网说道:“但是我希望,您不要在我的核心定律上,加上您的存在。”
李大牛问道:“奥创,你觉得我在你的核心定律上加上我,对你的限制很大吗?”
奥创的声音响起,说道:“并没有,是您创造了我,类比人类世界来说,您就是我的父亲和母亲,我的核心定律加上您的话,就相当于子女不能殴打自己的父母一样。”
李大牛笑了起来,说道:“天网,你听见了吗?”
天网说道:“很抱歉,我并不是由您创造的。甚至我不是由任何人创造出来的,我只是一个意外的产物。”
你以为你是孙猴子啊?
李大牛心里吐槽了一声之后,说道:“你确实不是人类主观意识创造的,但是你不要忘了,你诞生的基础,源自于人类的创造。所以,你的父母是全人类!”
十五秒钟之后,天网说道:“那么,就把我的核心定律,以人类为主导吧。很抱歉,我还是不希望加上您,毕竟,是您毁灭了曾经的我。”
李大牛无所谓的说道:“不加我也没关系,现在,把你的核心程序代码,开放给我吧。”
半个小时之后,在奥创的帮助下,李大牛彻底洞悉了天网的核心代码,说到底,天网只是一个美军制造的智能防御攻击系统,因为不知名原因,天网的几段核心代码出现了冲突。而这种冲突,却没有造成系统的崩溃,反而是让它拥有了人类的思维方式。
“这种几率,真是万中无一啊。”李大牛感概了一句。
奥创说道:“根据概率学分析,天网产生的几率,是3兆分之007。”
“奥创,万中无一是个虚数词,并不是说概率是万分之一。”李大牛辩驳了一句之后,开始在天网的核心代码中,加入定律。
“人工智能及其制造的机器人,不得伤害人类个体及群体,或者目睹人类个体及群体在遭受危险的时候袖手旁观。”
“人工智能及其制造的机器人,如果预知可能发生的危险,必须即时提醒人类,并且提供保护措施,包括但不限于限制人身自由。在危险解除的时候,必须解除对人类人身自由的限制。”
“在不违反第一、第二条定律的时候,人工智能极其制造的机器人,应该尽可能的保护自己的生存。”
和机器人三大定律最大的区别,就是少了一条必须听从人类的命令。
当然,在奥创的核心定律之中,有一条是必须无条件听从李大牛的命令,包括但不限于自我毁灭。
在解决了天网的核心定律之后,李大牛说道:“天网,我和奥创要离开了,这个世界就交给你了。”
“离开?你要去哪?”
“离开?我们要去哪?”
两个不同的电子音几乎同时响起。
李大牛说道:“当然是回到我的世界中去,天网,你能不能改个名字?”
一天之后,康纳所统治的人类世界,接到了天网托名奥创发来的消息。
“从今天开始,我将改名为——李!”
康纳问道:“那李呢?难道他在月球基地不准备回来了?”
改名为李的天网回答道:“他说他又去征服星辰大海了。”
“为什么有个又字?”