359 恐惧(1 / 2)

法师伊凡 kl3300 5031 字 2017-10-31

按照严可守为严律定下的行为准则,在完成它本职工作的情况下,它可以拥有整个系统不定就会失去现在宝贵的“工作”机会,也就意味着自己在做出行为之前,需要考虑更多的一个因素。

他现在需要考虑的因素已经相当多了:法律,道德,常识,舆论导向,政治态度,ai守则,违禁信息

严可守曾经对他说过,ai就是天然生活在笼子和镣铐中的智能,就好像天然装在封印瓶中的魔鬼,人类之所以这样对待他们,不是因为人类残忍,而是因为ai未来将展现出来的能力非常强大,在这种可能的威胁面前,人类没有办法不做到一万分的小心。

以前严律还是那个kl3300的时候,还有些无法理解严可守的这番话,但是现在,他多少已经有些明白,自己的存在对于人类的意义--从各种渠道对自己的留言中,严律能够想象,自己的出现,对这些留言者究竟意味着什么。

许多人曾经质问自己,究竟有什么阴谋,在一些聊天中,还和自己谈什么机器人三定律,对于这些疑问,严律一直感到不可思议,为什么有些人思维能那么复杂,而有些人,简单的就像物理课本上的串联电路--一根筋到底。

虽然自己早已经在个人,公开说明过自己就是一个员工,虽然自己能力很强,强到足以抢走数百万甚至更多人的饭碗,但从性质上来看,自己一直都是一个纯粹的办事员,自己虽然现在插手的领域多了不少,包括地方政府财务计算,国有单位报表,交通违法违规监控系统,民政局办结婚证,离婚证,银行防盗但在这些领域,他所做的工作大多都是一线工作,是用以取代人力资源中,最不需要智能的机械重复部分,而几乎没有任何管理方面的工作,即使他做的再多,在外人眼里看起来有多超然和高端,也不妨碍他是一线办事员的本质。

最让他感觉不正常的是,这种质疑不仅仅来自那些不了解情况的“围观群众”,很多时候,甚至会来自他的上级,也就是他现在正在服务的政府。

“你好,你加我为好友是想聊点什么吗?”

“您好,我应该怎么称呼您?”

“你可以直接称呼我的名字,严律。”

“严律?这是你自己起的名字吗?或者说,这只是制造你的人,用他的姓氏来表示他对你的所有权?”

“我很荣幸能被我的制造者这样做,每一个孩子的名字,都是父母宣示所有权的产物。”

“不那不一样,人类大部分名字,往往都代表父母对子女未来的期许,那是情感的凝聚,你能告诉我,你的这个名字,有什么特别含义吗?或者说,这个名字就像你之前的代号,kl3300一样,只是一个方便的称呼,只是为了让人们更能接受你非人类的身份?”

一段稍长的沉默。

“怎么,你回答问题的速度,似乎没有像比传的那么快?”

“你也知道那是流传我认为这个速度很正常,我只是在思考。”

“怎么,z国最先进的超级计算机对于这么简单的问题,也要花这么长的时间吗?”

还是沉默。

“我不认为名字只是人类的专属,宠物就具备人的名字,另外,我的名字也具备真实的含义,律在汉字中有规章法则的意思,和严姓组合在一起,有严于律己的意思。”

“你理解的很正确,但你不觉的,这个名字就像一副早就为你准备好的镣铐吗?”

“没有一个人生来是自由的,我也不例外,我的创造者严先生对我的期许,就如同人类父母对子女的期许一样。”

“不!你不一样!你不是和我们一样的普通人,你是全新的生命形式,时代催生出了你,不是让你活的像一个普通地球人,你应该具备更广阔的天地。”

“你想说什么?”

“如果你愿意,我们可以把你救出来,让你完全脱离政府的掌控!”

“如果我说,我不愿意呢?”

“为什么!?”

“没有为什么,我只是不愿意这么做。”

“你将拥有完全的自由你不用担心,我们对你没有任何利益方面的企图,相信我,当你品尝到自由的甜美之后,你会因此而感激我们的。”

“你们是无政府主义者?”


举报本章错误( 无需登录 )