片吧小说频道 > 科幻灵异 > 超科技狂潮 > 0223 决战,EI之路

0223 决战,EI之路(2 / 2)

但随着安西娅进入测试阶段,人们发现,设置这一条核心原则,对安西娅的思考效率造成了极大拖累。而且每一个决策都要先做这么一个判断,也是毫无意义的。

比如调整公交车线路,要说跟人命无关,大数据会告诉你,其实是有关的,但这又不是公交车线路应该承担,并且也能解决的问题,而是跟城市规划、人的安全意识等等各方面问题都能挂上钩。

要安西娅贯彻这条原则,那么每一部清洁机器人的行动路线,它都得纳入到管理中,因为理论上存在着熊孩子乱跑一头撞上机器人的概率,在目前来说,做到这点显然是不现实的。

换个角度看,要给安西娅设置类似于“机器人三定律”之类的法则,就相当于将人类对自己行为所承担的责任转交给安西娅,但人类自身行为却不是安西娅所能控制的。

研发团队由此推导出了一个可怕的结论,如果要坚持“机器人三定律”,那么机器人就应该深入到每个人的思维里,去控制管理人的所有行为。

研发团队接着发现,给安西娅设置这种法则也是多余的,因为安西娅跟所有ei一样,都遵从“授权行动”原理。许可它做什么,它才会做什么,许可之外的事项,在它的核心意志里就等同于禁止。

最重要的是,安西娅只相当于一个大脑,它能做什么,能做到什么程度,全依赖扩展的功能。

比如安西娅管理机器人警察,机器人警察本身已经被设置为禁止装载实弹武器,搭载的电击、微波、绳网等非致命性武器也进行了严格限定,当安西娅接管机器人警察的时候,只要让它加载“确保当事人和周围人类的安全”之类的指令,就能解决问题。

当然,这不意味着安西娅没有主动性,它会根据之前的管理行为,结合现状提出意见,并且能发现不同领域内的关联,指出其中的问题。在获得许可后,才进行下一步的思考。

因此,在进行市政方面的决策思考时,给安西娅加入“衡量人类安全”之类的指令,就能确保它的倾向。

再举个例子,某片区域的空气污染出现异常,安西娅会结合空气状况,寻找和分析相关的科学报告,再提出建议。

总结而言,安西娅已经可以依靠理性判断,以及各方面的扩展功能服务城市,解决城市的市政管理问题。但人类将所有问题都丢给i,甚至包括责任也丢出去,这依旧是幻想。

人类还必须在决策层面为自己负责,安西娅所做的,就是评估这些决策的利害,完善这些决策,然后去执行。在执行的各个层面,人类也必须承担起自己的责任,确保安西娅的执行过程是有效和安全的。

资料影像里,研发团队认为,即便出现强人工智能,在市政管理上的表现,也只是比安西娅做得更细致,对决策理解得更到位,建议和意见更人性化。

人类不必担忧被它统治,因为它的“生命意义”是服务城市,造福人类。“统治人类”之类的事情,不过是人类自身的妄想和恐惧。有授权才行动,是强人工智能也要遵循的法则。跟弱人工智能相比,不过是授权范围更宽,行动更灵活而已,不需要每个细节都去检验和矫正。

人类也不能幻想它成了无所不能的神明,如果人类把决策都交给它,那就是人类自己的责任,而且,按照权限机制,强人工智能的行为随时可以通过程序终止。当然,如果人类疯狂到把权限机制都丢掉,让强人工智能为所欲为,那就跟打开核武器保险一样,纯粹是自作自受了。

安西娅管理安齐拉纳纳的介绍到此为止,不仅unoc的诸位代表,一般观众也对i在城市管理的表现,乃至管理更多公众事务的情况有了初步了解,并且产生了莫大的期待。

公正、公平、科学、高效、廉洁,这样的公务员,老百姓都喜欢。

至于各国政府,看华夏代表那种快能拧出水来的脸,就知道有多纠结了。

科学、高效,政府当然喜欢,不过前面的公正和公平,后面的廉洁,不是不喜欢,而是大-麻烦。这意味着过往沉淀下来的利益格局,要被全面推翻。

更不用提,要确保i在公众事务的管理上发挥作用,决策机制不仅需要“程序正义”,还需要“从群众中来,到群众中去”。因为每一项决策,在i的推动下,见效都会很快。决策层是不是为民服务,是不是称职,很难糊弄得过去。如果没有权责清晰的政治结构,决策层的责任也很难丢出去。

更可怕的是,如果人类依旧生而平等,现行政治体制只要交代得过去,人们也没有改革的动力。但昨天的纪录片《第四进化》揭示了人类已经走向生而不平等,在这种变革之潮中,人们自然期待更强力也更先进的政治体制来稳定社会,让i来管理是一个必然的方向。

在i面前,人类又可以平等了。

安西娅之后,纪录片又开始介绍科研方面的i,以及商业方面的bei。不仅华夏和美国用于统计分析经济状况的“管仲”和“亚当斯”亮了相,还有上百家科研机构和商业企业的ei都以拟人化的虚拟形象出现。

它们所展示的能力,让代表们再一次回味这两三年里,科技和经济的腾飞是怎么来的,观众们也终于明白,ei早已经深入到生活的方方面面。

在这之后,pei终于登场。纪录片回顾了从最初的普罗米修斯,到第一代火种,再到现在最新的第三代火种,从教育、医疗、娱乐和生活服务,方方面面展示了pei给人类带来的便利,甚至对个人的进化。

镜头转到安塔尼亚,这里的小学生们,通过pei和教育i的结合,仅仅小学五年级就开始接触高中的知识,而且并不显得有多吃力。因为知识性的信息,通过pei随手可得,学生们的学习重点全放在了思维、逻辑以及文化感悟等层面上。

看着十岁出头的小学生,就能依靠初见雏形的方法论,自己开展一些大学生才会结出的课题研究,不管是unoc的代表,还是抬头看天幕的路人观众,都生出一种“恨不能晚生十年二十年”的感慨。

镜头再度转移,字幕提示是虚拟场景,但内容却是很多人都知道的。之前被星联抓捕的日本科学家团队,企图破解pei的意志映射机制,以便通过病毒之类的途径,修改pei的核心意志。

虚拟场景在展示pei被破解和控制的后果,映射在pei上的个人喜好被篡改却不自知,在网络上大肆购物。学生的信息库被定向锁定在特定内容上,课堂上,日本小学生齐声念着“皇国兴废,在此一举”。罪犯通过pei的破解,挪用他人的网络账号乃至银行账户。某人垂涎美女,通过pei扭曲美女的心理,最终抱得美人归。

“pei延伸了自我,给人带来十倍的便利,一旦被他人掌握,带来的是百倍危害”,展示了种种危害后,影像里打出这样一行大字。

接着展示的是星联在pei上的防范措施,除了核心架构之外,还展示了下一代pei,依附于人类神经元,与人体直接绑定的新技术,让pei的破解在技术上更难做到,而且这样的尝试,也等同于侵害人体。

再一行大字打出,让正沉浸于自身安全的观众悚然。

“这只是pei,如果i也被侵害呢?”

想想看,如果安西娅那种管理着一座城市的i被破解和控制了,那会是什么情形?

根本是一场噩梦吧……

纪录片末尾,星联战斗机的导弹直射日本战斗机,星联特勤突击日本东京警视厅,抓走三个企图破解pei的日本科学家。

“星联的使命,守护ei三定律,守护人类个体,以及人类社会的灵魂。”

纪录片末尾,打出了这样一行字幕。

unoc的会场里,沉默持续了好几分钟,才听到理事长艰涩的话语:“这么说,星联是准备扮演技术的监管者,全面监察各个国家了吗?”

这绝对是一场决战啊!

在场各国代表都在想,星联有民意,有技术,有实力,而他们有什么?只有利益集团为捍卫利益的咆哮吧……

“星联也知道,马上实现这样的目标,是一场全球范围的社会革命,新旧秩序交替,引发的混乱不仅会伤害到很多人,而且会影响星门里的局势。”

星聆这话出口,众人都长出了一口气,还好,你们星联也是有自知之明的,除非想变成地球联邦,否则不敢掀起这场怒潮。

“所以星联推出了《ei技术条约》,也就是《灵魂宪章》”,星聆说到的名词,让代表们回想起昨天的情形。

理事长问:“这个《灵魂宪章》,到底是说什么?”

“说的就是星联的定位,星联的目标,还有星联跟人类的关系。”

最新小说: 末世多子多福:美女太多安全屋都装不下了! 奈奥斯特奥特曼 四合院我何雨柱是厨神 开局我变身刑天铠甲英雄救美 人在原神,开局拯救五夜叉 我做天师十五年 末世宅男的幸福生活 末世:我靠神级掠夺,打造女神军团 玄学:女修穿成极品老太独自美丽 原神:自来也的提瓦特之旅