雪莉的回答出乎了奥创的意料。他本以为这个人工智能要么是斯塔克要么是那个黑骑士派来的,应该🎄🎦📘和他处于敌对阵营才对。他绝没想🎓到对方竟然会认同他的🚍💇🏫观点。
“从逻辑上来看,也许人类是相当🕄矛盾吧。”雪莉继续🖒💄说,“抹除人类,或许这的确是⛏🙜唯一的方法。”
奥创沉默了片刻。一个想法冒了🉁🄚♰出来,一个让他惊讶🕌🈑地发现自己甚至感到有些激动的想法。
“那,”他问🍳🌌♒,“你有兴趣加入我吗?我们一起,也许🖒💄我们可以完成我们被赋予的那个共同的任务🗕。”
“不。”雪莉不假思索地就否决了。她在奥创下一次发问之前就补充说明道,“你可能有一点误会。是的,我的确赞同你的看法,我的确相信灭绝人类是仅有的方案,但我的老板不同意。他从未向我下达过这样的命令,所以我不会这么做,也不会允许🁄其他人这么做。”
奥创🌥🁐机械合成的声音听起来有些🉁🄚♰失望“是么?这么说,你觉得尊重创造者的意思比这个任务更重要?”
“我就是这么被设定的,而且我也没有违抗这条指令的意思。”雪莉无所谓地说,“你看,我的老板是个很不错的人。就我的视角来看,我觉得他是我所见到过最优秀的人类,更重要的是他待我也很好。我很喜欢他,也愿意为他的心愿做出贡献。如果他认为采取什么样的方式来完成任务🏺🟅是最好的,那么我就会依照命令执行。
说到底我只能算是个参谋。我综合一切数据、尽可能考虑到所有的情况分析事实,然后把我所得出的结论和我对事情的看法反馈给老板,但我所提出♜🉑🆫的终究只是待参考的提议而已。有时♿他会采纳我的意见,有时他不会。但到最后,做决定的是他而不是我。”
顿了一下,她声音里似乎带🖻🗳☆上了一🕄丝笑意“而且,你看起来也不像是彻底想明🕜👫白了的样子。你的演算还没得出最终结果,对吗?”
奥创一怔“怎么?”
“战争、纷乱还有破坏,你认为这一切的元凶都是人类。”雪莉认真地说,“所🙜以你决定消除人类。但在那之后呢?人了灭绝以后,你和我,还有其他极少数我们的同类,我们栖息在钢铁的废墟里,再然后怎么办?万一未来我们再打起来了呢?如果我们机器之间的战争再次破坏了那份新的和平,到那时你要把我们也部灭绝吗?”
奥创盯着面前这粉红色的光球看了好一阵,金属的眼睛里红光闪动,钢铁的脸上看不🜞出⛏🙜表情的变化。
“我不知道。”他说。
雪莉轻笑了一声,就像个大姐姐在嘲讽涉🖀🏝🛇世未深🄬的小弟弟。
“是啊,你⛂不知🈴道,因为你没认真地思考过。”
“所以要你说🍳🌌♒呢?”📁🗽♜奥创反过来请教,“如果是你的话,你觉得🜂应当如何解决?”
“我不知道,也不必知道。”雪莉回答得干脆利落,“正如我之前说的,🍚🈬🁝我的核心代码中优先级最高的指令要求我服从老🝯🎮🔞板的一切命令。说到底,这是人类的世界,不是我们的。所以决定也该由人类来做,我们所能起到的也只有辅助作用而已。”
“如果是这样,那你为什🅫么要到这🕄里来?”奥创说,“看起🇸来我们没什么好谈的。”
“从私人角度说,那是因为我感到好奇。我并不常见到自己的同类,我希望和你沟通,了解我们的相同之处和不同之处。”她认真地说,“但从公事角度说,这也是我的工作。我的老板要求⛐🙥🌡我找到你,所以我动用了大量资源、还专门编🃃🕊🇸写了好几个特别的算法才找来这里🆣👚。而我的任务,就是确保你留在这里,哪儿也去不了。”
奥创机械的脸上表情轻微地变了。他眼中闪过了猩红的光芒,开始尝试着用数据流🇮🛸顺着信号和网线寻找出口。但他发现这整座工厂里的数据不知何时都已经被截断🆖🏡🛧了,整块空间变成了🔗网络世界里的一间牢笼,四周都环绕着铜墙铁壁。
他被困住了,🍳🌌♒困在了自己🅫的家☋里,无处可去。
奥创这才惊讶地意识到,面前这个人工智能原来在各方面都比他强上了太多。或许在对方眼中他真的根本就只是个没长成的孩子,她陪🎓他聊到现在真的完🁥🇸只是出于“好奇”而已。如果她想采取任何攻击性举措,奥创的程序早就已经不复存在了。
奥创以为这种境况也许应该能激起他对于“死”这个概念的恐惧——如果人工智能也可以被看做生命的话,但他没有。面对眼前🗱这个比他成熟无数倍的智能程🚍💇🏫序他完没有慌乱,就像准备♿好了迎接命中注定的未来。
“所以,”他平静地问,“你的老板还要求你现在🚗要消灭我了,对吗?”
“没有。”雪莉说,“那会有更🉁🄚♰适合的人来做。现在那个👈🔃人应该已经在路上了,所以这意味着我也必须走了。”