第三十九章 灵魂病毒（2）

丹尼斯愣了一刹，想也没想便答道：“怎么可能，机器人的所谓‘大脑’，只不过是一堆金属、塑料，还有芯片，所有的仿生反应都是程序预设。没有任何生物性，谈何灵魂。”

“那么……”叶梨接着问，“你觉得机器人会产生自我意识么？”

丹尼斯眉头一紧，略微思索，认真回答道：“那要看你问的是哪种机器人了，假如是目前市面上流行的智能机器人，比如贵公司几年前量产的‘1号原型’，我看过智脑系统源代码，毫无破绽，堪称完美，是不可能出现你说的这种情况的，但是……”

叶梨没有插话，示意他继续说下去。

“假如是它……”丹尼斯指了指隔离室，“抱歉，我这一年都在监狱里，没有途径获得你们最新机型的程序源代码，无法判断。”

叶梨了然他的小心思，轻轻一笑，将手持电脑切换到一个代码页面，向丹尼斯递去。

在丹尼斯查看代码时，叶梨开口介绍：“房间里的硅基智能体卡罗尔，主要搭载行政秘书的工作模块，前不久，买家反映它在执行指令的时候表现得很奇怪，有点不听使唤，返厂检修后，我们在它的数据海中发现一段代码——就是你现在看到的——经科研小组的成员验证，这是一段并不完美的病毒代码，但我们有理由相信，这段代码一旦完成，有一定的几率破坏siliner-1智脑系统的防御，甚至改写机器人三定律……”

叶梨顿了顿，继续说：“它甚至有名字，叫灵魂病毒，最不可思议的是，卡罗尔的智脑系统知道它的存在，多个自检日志中都有记录，但是不知为何，智脑系统仅在第一次对‘灵魂病毒’发动了攻击，之后便视而不见。”

丹尼斯看完，面部表情也渐渐变得凝重，半响之后，他放下叶梨的手持电脑，问：“你说的自我意识又是怎么回事？”

“有一部分研究员认为，智脑系统忽视‘灵魂病毒’的行为是产生自我意识的表现，一部分则认为那仅仅是病毒的自我隐蔽造成的影响。”

“所以你们把它隔离起来，进行监控？”丹尼斯问。

叶梨点点头：“没错，我们成立了工作组，集合全中心的科研力量，对卡罗尔进行了一系列的测试，我们甚至动用了行为分析和心理学方面的研究员，得出的结论很不理想，卡罗尔确实表现出了一些自主迹象。”

“‘灵魂病毒’从何而来？”丹尼斯又问了一个关键问题。

“暂时不得而知，我们的计算机专家没有找到任何线索，有人甚至认为，这段代码，其实是卡罗尔自己写的。”

闻言，丹尼斯蓦然抬头，一脸讶异地看向叶梨，随即哈哈大笑起来。

“无稽之谈。”丹尼斯嗤笑，“高智能程序的学习能力确实强，但您也是计算机方面的专家，应该知道，只要是程序，就有严格的逻辑观，1+1=2，是因为数学只允许它等于2，出现这种情况，只有一个可能，就是被人为篡改了。”

“我们不认为目前世界上有任何黑客可以突破我们在siliner-1智脑系统上设置的防火墙。”叶梨并不赞同丹尼斯的说法。

丹尼斯摇摇头，“虽然没有看到siliner-1的智脑系统脚本，但我认为，你们为了做到系统的高智能，一定开发了不少权限，比如……无限制联接世界网。”

说完，丹尼斯抬头观察叶梨的神色，得到她肯定的答复后，他继续说：“据我所知，你们从前的做法，是建立一个智能机器人的内部知识网，也就是你们后来注册专利的‘siliner-1数据海’，并在硬件与程序上限制智能机器人进行更大规模的运算，这是你们从过去的人工智能自我学习后‘屡屡学坏’的事件中，吸取经验，想出的解决方法。但是现在的siliner-1项目显然是要超越从前，追求更高的智慧能动，要达到这些目的，势必要提高机体的运算速度。我猜，你们对siliner-1智脑系统的权限开放值，一定到了零界点。”