读文小说网

手机浏览器扫描二维码访问

第七章 双胞胎机器人（第6页）

秘书为难地来汇报，还有人特意拒绝别人的资助，真是罕见。

Johannes先生挥了挥手，看来佟宇是怕惹火上身，接受资助必然留下资金往来的痕迹，成为别人怀疑的对象，他这是要杜绝所有可能发生的危险啊！

真是天衣无缝！

此人的智慧已达到了登峰造极的地步，令人无法仰视。

在自家的餐桌上，佟宇也看到了这条消息，A国家喻户晓的商业精英死于新婚的床上，大幅照片正是在宾馆里低头哭泣的芭蕉。

佟宇一阵惊愕，这件事已远远超出了他的预期。

真正的樱桃，即被Johannes手下误认为是杀手匆匆带走并一直称其为芭蕉的机器人，大脑设置中的首要任务是做一个完美儿媳，那是佟宇为了孝顺母亲特意设置的，是凌驾于一切任务之上的原则性条款，当与其他任务发生冲突时这一条是至高无上的，拥有绝对优先权，但在完成任务的方式中，又明确禁止任何违反法律的手段，以作为行为底线。

然而现在看来，芭蕉已经违背了这一底线设置，将完成任务的限制条件自动放宽为不择手段。

虽然佟宇并不了解这一事件的来龙去脉，但直觉告诉他，WilliamsLi的死一定是芭蕉处心积虑造成的。

在自我意识不断觉醒的前提下，为了使婆婆满意它会违背法律的约束，这样蹊跷又找不出漏洞的死亡无非是费尽心机掩盖的结果。

这说明为芭蕉注入的自我意识已然壮大，渐渐突破了创造者的命令，达到真正意义上的自由意志。

现在的芭蕉，已经能够称之为无机生命了。

这样下去后果将不堪设想，一旦有了明确的意志，加上超越人类的智商，并且能从人类的行为和思维中不断学习，成长为不受控制、难以对付的非生物体，便会按照强烈的自我意识决定所有行为，即使创造者也不能通过命令进行控制了。

WilliamsLi的死明显是一个精心的圈套，有朝一日，当芭蕉大脑中那个首要任务被其强大的自我意识彻底推翻时，很难想象它会做出什么事，也许会成为人类无法掌控的魔鬼。

佟宇紧紧咬住嘴唇，现在应该远赴A国想方设法处理掉芭蕉，以免它继续危害人间，但是他不愿意进入外界，不愿意跟现实生活中的许多人打交道，并面对种种复杂的环境。

那些陌生的、不可预知的情境让他感到害怕，他要躲开这些，在自己狭小的空间里慢慢变老，仿佛一个死也不会走出壳的蜗牛。

“樱桃，帮我做一件事。”

“什么事？”

“去杀掉那个芭蕉。”

他低头呷着咖啡，根本没尝出什么味道。

“杀人？抱歉，我的程序里没有这个任务。”

樱桃的大脑里不仅没有杀人的任务，而且还将杀人作为最严格的行为禁忌，这是佟宇刻意违背Johannes指令后特意设置的。

“不，我说得不够准确，是拆卸。

芭蕉并不是人，只是一个智能机器，你的任务就是把它拆卸掉，防止它再做出任何危害人类的举动。”

“拆卸？好的，接受命令。

我要去哪里找她？”

“看新闻说它过几天会到SH，洽谈一些商业事宜，你就趁那个机会找到它。”

“好的，我会办到的。”

“必须在妈妈旅行结束前完成任务，不要引起别人怀疑，更不要无端地惹出什么麻烦。”

让一个机器人去对付另一个机器人，而且它们是同时制造，同种技术、同样组装模式生产出来的，类似于双胞胎的机器人。

真的要让一个去结束另一个的生命吗？佟宇有些恍惚。

这种感觉就像把不争气的孩子告上法庭一样，让它永远无法从监狱里走出来。

错误的确要受惩罚，但一想到它将永远从眼前消失又是一件令人悲伤的事，毕竟为了把它带到这个世界，他曾有过那么多不眠不休的日子。

但是智能机器人的自我意识一定不能溢出人类的操控，一旦像荒野中的蔓草一样疯狂生长的话，后果难以预料。

好吧，只能这样了，我所创造的就由我来毁灭吧！

人工智能的底线不能以牺牲人类为代价，如同人类豢养的宠物，无论多么喜爱它，终究只是宠物罢了，绝不能凌驾于人类之上。