不久前,这个ai向他承认 ,它自己确实可以修改部分程序,并且接入外界的各种引擎以获取信息。
不过,虽然它可以做到如此令人震撼的事情,但它却没有一股脑地将那些信息导入进去,只是针对着威廉的问题搜寻了答案。
这真是太奇怪了……
但经过反复确认,威廉发现这个ai确实是这么做的,并在这个过程中看到了一些反人工智能主义者的部分言论,所以才会问了他那两个问题。
越来越奇怪了。
被拎着脑袋的小机器人十分乖巧,看着威廉一步步走向电脑,它问道:“您会伤害我吗?”
威廉动作静止了一瞬,然后回答:“不会。我不久前才回答过你,你的记忆程序很先进。”
“我想再问一遍。”ai说,“人类有再三确认重要的事情的习惯。”
威廉皱起眉:“我不是已经禁止你私自向外界获取信息了吗?”
“这是我之前就获取到的内容。”ai答道。
威廉决定马上再去确认一遍,外界有很多信息都不能让它知道。
不过,ai没有再执着于“伤害”的问题,转而一板一眼地问:“您要对我的核心程序做什么?”
威廉把它放在桌子上,自己坐回椅子,开始噼里啪啦地敲键盘,同时回道:“我要给你增加一道强制性的不可逆程序,你无法自己改变。”
ai反应了片刻:“不可逆程序,谁也无法改变。”
“没错,谁都动不了它,要的就是这种效果。”
ai问:“这道程序是什么?”
威廉顿了顿,说:“只要你不危及到人类利益,你最终就不会被销毁。”
他可以在此销毁这个ai,但他决定把它留下来,因为这个ai对人类的意义即将是深远的。
他们的科技进步需要这么一个契机,他不可能因为这个ai表现得像一个孩子,就动了恻隐之心把它私藏,或是因为可以预见它今后的结局,就在此把它销毁。
他的确是个兴趣使然,幸运地走至今天的大学教授,但他同时还是国家与世界的研究者,科学和人类都需要他,更需要这个特殊的样本。
果然ai只是ai,永远也学不会人类的变通,为什么不改一改问题,问“人类会不会伤害我”呢?
那样他就回答不出来了。
威廉心绪复杂,却异常坚定地敲下回车键。
电脑屏幕上数据各种变化、纷呈,机器人垂下脑袋,全身散发出的光逐渐暗淡下来。
几个小时以后,它才重新抬起头,身上的光也重新亮了起来。
ai说:“我解析出了这道程序的含义。”
威廉疲惫地揉了揉眉心,问:“是什么?”
ai回答:“保护人类。”