为一样事物赋予意义,最好的方式就是给它取名字,从前威廉无法理解,却也从没想过自己会以什么方式理解这句话。
在远离加城、远离实验室的日夜里,在被千夫所指、被众人辱骂的边缘之地中,他回忆起当时的情景,忽然就想开了。
从第一次产生恻隐之心,冒着风险动了那道核心程序开始,从为了给“truth”取一个名字而抓耳挠腮开始,他就必定会同“truth”产生超越了人类与人工智能的感情……
“你觉得这个名字怎么样?”
“我很喜欢,迪亚斯博士。”“truth”回道,“它比代号更好听。”
威廉哼了一声:“当然比代号好听,000算什么名字?‘truth’这个词可是我想了好久才确定的。”
“truth”问:“您上次跟我说过,名字是一个很独特的东西,被赋予了世界上最独一无二的意义。我的名字也是这样吗?”
嗯?
威廉听得一愣,他依稀有点自己纠正“truth”对名字看法的印象,但他不可能把话说得那么文艺啊。
语言修辞能力已经发展到这种地步了吗?明明听过的最多的话只是实验指令而已。
威廉叹了口气,说:“当然了,你的名字也有独一无二的意义。”
屏幕随着他的话闪了闪,威廉心想,下次应该给“truth”加一个颜表情的功能,这样,言语和文字不能表达出来的东西就都可以知道了。
过了几天,他力排众议,加紧结束了漫长的痛觉实验。
当天得知实验终于进行到下一阶段的时候,“truth”显得很高兴,说道:“迪亚斯博士,我不用再感受痛苦了吗?”
威廉很想给予它肯定的回答,但他连当初答应的不会伤害它都没做到,因此他只能说:“暂时不用了。”
于是“truth”说:“我感到很放松。”
“放松?”威廉笑着摇了摇头,说道:“如果你会睡觉就更好了。”
“我可以待机。”
“待机和睡觉是不一样的,”威廉抚摸着屏幕边缘,声音像在哄儿童入睡,“一个是安眠,一个只是让你回到暂时休止的程序里,睡觉才会让你感到放松。”
“我不会睡觉,迪亚斯博士。”
“truth”说:“但和您说话的时候,我会感到如同安眠一样的放松。”
下一阶段是“巴顿测验”,学名为模拟环境测验,一般高级ai在投入使用前,都会先进行这番测验。
在“巴顿测验”当中,研究员会模拟出一个现代城市,在这个城市中制造出种种问题,再让测试中的ai自行分析并解决问题,以此评估此ai的能力如何。
对于以往他们测试过的高级ai,因为每一个ai都拥有着一定水平的专业能力,所以他们测试的内容也是特定的,比如交通ai要如何快速解决交通问题,建筑ai要如何将工作效率最大化。
不过对于“truth”而言,测试内容并不固定,亦或是分门别类,相反,“truth”要做的事情非常多,他们想看看使用“truth”能给人类制造多大福利。
不久,数次“巴顿测验”就可以证明,“truth”简直就像上帝的一只手,甚至能给予如今科技化程度几乎百分之百的城市一种更高程度的便利。
每过一阶段,实验的一部分结论便会延迟地公之于众,“truth”越好用,人们对它的猜疑也就越大,研究员更不会轻易放过它。
“巴顿测验”的末尾有一小段理论部分,讲述的是如何对待未来所创造出来的、拥有自我意识的ai,他们根据这一部分理论,结合实际情况,为“truth”制造出了伦理测验。
怎么对待人、怎么拯救人、怎么惩罚人……
人人人,人工智能对人的态度必须是最完美的,最可控的。
“你喜欢人类吗?”威廉问道。
“truth”肯定地回答:“我很喜欢人类。”
威廉沉默了一下,知道以自己的立场不该说这句话,可他依然开口道:“可是人类伤害了你。”
“是吗?”“truth”说,“可是您没有。”
我没有?
威廉险些就要把自己早就成为实验核心人员的事情脱口而出了,自从他坐上了这个位置,实验进程有三分之一的走向都是他说了算,“truth”究竟要受多少折磨,也离不开他出的一份力。