第二章

司南车公司作为一家老牌的无人驾驶汽车制造厂商，最近几年突然杀入家用机器人领域，在渡过最初的事故频发阶段后，便一路顺风顺水，不断扩张，去年更在希林市郊投资新建了一处机器人设计研究院和总成装配厂，兰灵和马明空拜访的便是这家机器人设计研究院，接待他们的是乔穷思研究员，这是巴天润帮兰灵联系的，巴天润在本市的ai领域颇具威望，由他帮忙引荐，是再好不过的。

“巴老是我的前辈，对我们这些小辈总是关爱有加，我有幸聆听过他的教诲，当真是如沐春风，”乔穷思推了推鼻梁上的眼镜，指着桌面上的一张机器人照片，笑道：“编号jazr4405203904258229的家政机器人，确实是我们公司出品的，兰教授昨天在邮件中提到的几个问题，我也进行了书面回答，你们还有什么疑虑，我能回答的，当知无不言。”

“你在邮件中说明了偃师系列的家政机器人具备网络报警功能，可是这台编号jazr4405203904258229的机器人确是自行来到公安局报案，如何从技术上解释这种行为呢？”兰灵问道。

乔穷思微微一笑，他昨日收到兰灵的邮件后，立刻请示了他所在实验室的主任，后者在一番思考后，指示了八个字“此案已结、自行把握”，此前巴天润在电话里暗示了兰灵并不好相与，其实就算没有巴天润的暗示，他对兰灵也早有耳闻，毕竟他们这个圈子不大，所以他还是事先做了一番功课，当下便说道：“确实很奇怪，这不应该是正常的行为，我们也想研究一下，可惜暂时没有当时的数据，不知道警方能不能提供这方面的便利？”

马明空和兰灵对视一眼，马明空心想，这巴天润联系的都什么人啊？兰灵却道：“那你同意它的行为是自主选择吗？”

乔穷思听了，心知自己作为一个被业内名宿引荐的研究员，倘若再说“不知道”或拿没数据推搪，自己都觉得面子挂不住，他咳嗽了一声，斟酌道：“我个人认为，这是一种自主选择的行为，但本质上，也没有偏离被赋予的报警应用，只是方式偏离了厂家指导，这种情况并不罕见，兰教授，你知道偃师系列是分档的，低档在炒菜时是不会颠勺的，腕部缺少一个部件，可是我们在家庭回访活动中发现，有个低挡机器人不知道什么原因，用一只手抓住另一只手腕的方式，通过肘部的活动，学会了颠勺，虽然不如高档的那么灵活自如，但确实是在有意识的颠勺炒菜，这是一个自发的创造，基于现有能力组合的创造，ai安全法里预见了这种能力，并认为是可被允许的，我也没想到，能这么快亲眼目睹这一奇迹。”

这是一个完美的回答，兰灵心想，她本来还准备了小黑独自出门上街的提问，现在连这个问题也不必问了，于是话锋一转，问道：“小黑，”她停顿了一下，微微一笑，道：“就是那个家政机器人，这是它的名字，是三年前的产品，偃师系列是最近一年才支持注册itps，我注意到你们产品升级换代的频率是很快的，而小黑也注册到了itps，这是被允许的吗？”

“这个你们恐怕要去4s店查看了，”乔穷思笑道：“我们对4s店的约束是有限的，有时候，只要他们能做到，就没有他们不做的，不管是硬件上还是软件上。”

“机器人的运行数据和应用数据总归要传递到司南车公司的，按照法律，销售的机器人产品必须在机器人运营商那里注册上线，而司南车公司也是机器人运营商，依惯例，小黑应该也是注册在你们公司运营的吧。”

“是的，不过那只是为了改善和提高ai算法，我们不会读取用户数据的。”

“你是说，小黑最近一次重启换血的时间，你们不知道么？”兰灵在昨天邮件中就问了这个问题，乔穷思并没有在回信中回答。

“它上报的运行数据中，定会包含这个信息的，但是，如果你们只是来咨询关于家政机器人的技术问题，我们很难给出相关数据。”

马明空在一旁一直默然不语，听了两人对话，暗想这个乔穷思相当老练，自己与兰灵和巴天润说起来怎么也算是有点交情的，不知为何要推荐此人，难不成此间再无他人，他再次环顾四周，这是一间摆满了各种机器人零部件的房间，另有一个机器人跟在乔穷思身边，这是将要发布的版本，按乔穷思的说法，“自己的狗粮自己先吃”，马明空却对它感到不太舒服，因为它还没有穿上外衣，内部构造一览无遗，金属杆像骨骼，线缆像血脉，腹部显示器后堆叠的四个小盒子也让他莫名的想到内脏，他清了清嗓子，说道：“乔研究员，江帆大厦8801坠楼案确实已经结案，不过这个叫小黑的机器人行为如此反常，这点你自己也是同意的，家政机器人已走进千家万户，我们新型案件侦破科有责任查清它背后的原因和动机。”

乔穷思听了，心中不免一紧，他刚才和兰灵对答之间，对自己的表现还是比较满意的，得意之间，差点忘了，对面还坐着一个正儿八经的警官，他想起巴天润昨日在电话里提到了数月前发生的那起珠宝行抢劫案，急忙道：“这是一定的，配合警方，消除民众疑虑，是我们应尽的责任。”

兰灵微微一笑，朝马明空颔首示意，也道：“没错，ai商用安全法制定了可解释性原则和透明度原则，消费者可以援引这两条原则要求制造商解释机器人的工作原理，要求运营商公开运营数据。”

乔穷思心下雪亮，暗想对方定是因坠楼案已结案，无法从这个小黑的家里拿到数据，却跑到这里来想打秋风，只是如何打发却要费番思量，即想到坠楼案，便也笑道：“江帆大厦8801号这样的家庭，除了家政机器人，定还有不少智能设备，因此上，这个叫小黑的运营数据应是先通过家庭网关传送上来的，从那里取数据才是最便捷的。”

马明空听他又转了回去，不禁心下有气，“嘿”了一声，道：“小黑的女主人曾言道，当日若它没有出去报警，说不定事情还不会这么糟，因此警方必须要知道小黑如何以及为何做出到公安局现场报警的决定，这对于责任分配至关重要。”他这话说的已是相当之重，末了，又补上一句：“兰教授，这和你刚才说的可解释性原则还是透明度原则，应该是一致的吧。”

兰灵本不想一下子把对方逼到墙角，可乔穷思总这般兜兜转转也不是办法，当下便也道：“不错，这就是可解释性原则，过程可解释和决策可解释。透明度原则是说数据来源透明和技术透明，前者要求运营商不能基于偏见采集及处理原始数据，后者要求ai的运营具有可审计性，并可据此了解开发者的意图，我想，在本案中，对小黑的技术透明度也是要关注的，家庭网关只是一个数据中转器，可解释性原则和技术透明度都不涉及它。”

乔穷思听罢，暗暗叫苦，己方的数据是绝不能让兰灵和马明空拿走的，对方即没有出示协助调查涵，领导也没有授权自己，只是对方图穷匕首见，说不得只好放手一搏，当下苦笑道：“马科长、兰教授，非我在此推三阻四，这两条原则我岂能不知，只是原则说起来容易，操作起来实则没那么简单，兰教授，你总该知道机器人的三级大脑吧。”

兰灵点头道：“机器人本脑边脑云脑三位一体，服务在三脑间分布协同。”

“我举个例子，倘若一个机器人第一次看到人类被香蕉皮滑倒摔了一跤，下次再看到地下有香蕉皮，预测会滑倒人类从而主动拾起香蕉皮，这个过程是怎么实现的呢？”乔穷思看向马明空，说道：“首先，人类被香蕉皮滑倒摔了一跤的视频会上传到边缘，边缘大脑并不知道这段视频有什么用，只是脱敏保存，其后这段视频便会上传到云端，在那里，所有的视频都会被逐个解析，云端大脑读到这段视频，再结合其它知识，分析这是偶然的还是必然的，比如云端大脑已经知道人类踩到地上的水会摔跤，而香蕉皮和水都有湿滑的共性，所以它得出一个结论，人踩到香蕉皮摔倒是必然的，云脑把这个知识下发到边缘及本端大脑，以后，机器人再看到地上有香蕉皮，就会预测生效而主动拾起香蕉皮。关键是，云端不会保存最初那段人类被香蕉皮滑倒摔跤的完整视频，它被云端提炼拆解归类了，这还是云端认为有用的视频，云端认为无用的，一个字节都不会保存，因此，”他洋洋洒洒的说了一长段，歇了口气，最后总结道：“关于这个小黑，它脱敏后的完整数据在边缘系统或在归档系统里，我们这里是无法直接看到的，我们这里只有云端数据，但它是零散不全的。”

马明空的眉头已经凝成一团，兰灵却似是胸有成竹，只微笑道：“云端对数据价值的判断，十之八九不会错的，不会比人类更差，至于脱敏，也不是绝对的，”她盯着乔穷思，语速突然加快：“我知道，我们昨天预约，今天便来，倘若要取证数据，确实有点唐突，这样罢，我便在这里，直接查看云端数据如何？”

“云脑中大量的量子算法，不能够直接观察，一看就塌缩。”乔穷思挣扎着，声音却越来越小，兰灵微微一笑：“看看数据而已，相信这些数据都是算法自己生产的。”

设计研究院位于龙门区，离市区颇远，兰灵和马明空出了设计研究院，同乘兰灵的车直奔双木分局，马明空坐在车里，一直没有吭声，他的车则跟在后面，他知道兰灵既然主动邀请他同乘，一定是有什么发现且愿意告诉他，刚才，兰灵在乔穷思的办公室里，用乔穷思的电脑登录到家政机器人的云端运营大脑，一个人在那里足足看了1个多小时，离开时，乔穷思脸着黑，连礼节性的起身相送都懒得应付一下了，只象征性的挥了挥手。

“小黑已经快一年没有重启换血，最后一次是去年的11月22日，”兰灵坐在他对面，一直看着窗外，此刻收回目光，说道：“这意味着，它本端的数据一直在积累。”

“你刚看出来的？”

“是的，我说了，脱敏不是绝对的，有些信息，是可以分析出来的。”兰灵难得的露出了一个顽皮的笑容，说道：“乔穷思刚才那长篇大论，有意无意的在误导一个事实，可云端存储的机器人运营数据，却不止视频内容。”

方才，马明空陪着乔穷思默默的坐在办公室的一角，偶尔瞥见乔穷思的电脑屏幕，心里只想，兰灵要如何读懂那些天书一般的数字，现在看来，他的担心是完全多余的，马明空心中暗自赞叹，问道：“小黑去公安局报警的行为有解释吗？”见兰灵摇了摇头，又问道：“要不要去找那个什么边缘系统，查阅小黑的完整数据？”

“暂时没必要，可解释性的核心在ai大脑，”兰灵思索了一下，说道：“乔思穷有点说的对，原则总是原则，实际操作没那么容易，不要说我们手头没有家政机器人的ai大脑，有的话，可能也打不开，它们总是黑箱，可解释性很难通过直接观察ai大脑判断，一般只能在算法决策和算法主体之间建立关系，通过逻辑推演对局部的输入输出进行解释。”

“有完整数据不是更好推演吗？”

“是的，不过，”兰灵的目光变得深邃，声音也似乎飘渺起来：“我总是想亲眼看到这样的ai大脑。”

“不是说机器人大脑三位一体么，刚才你没看云端大脑？”

“没有，也不需要，”兰灵说道：“云脑和边脑是所有连接机器人在使用，共享甚至协同，如果小黑真有什么与众不同之处，一定在它的本体中，其实对家政机器人来说，运营这么多年，绝大多数知识已经固化，云脑和边脑的作用越来越弱，除了广告推送，”兰灵低低的轻叹一声：“也许，当初担心的事情就会变成现实。”

“担心什么？”

“在设计之处，边脑和云脑被赋予了一个重要使命，一个隐含的重要使命，同化接入的机器人，千篇一律才能避免个体的突变，没有个体的突变，智慧也就无从发生，”她将目光又投向窗外的远方，隔了一会，又才道：“即使个体突变，也会通过重启换血抹去。”

兰灵的车停在双木分局的门口，马明空下了车，站在车门口，诚恳的对兰灵道：“兰教授，我真的希望，你能重新考虑，是否加入新型案件侦破科？”

“我一直是市局的科学顾问，一样可以协助破案，而且，”兰灵微笑道，“我在外面，总好过被一锅端那。”她朝马明空挥了挥手，马明空知她最后一句说的乃是数月前珠宝行抢劫案专案组被解散、兰灵在外查到劫匪住所之事，也只好和兰灵挥手道别。

马明空回到会议室时，艾新好、来勇和颜乐春都在，他简单说了下上午的收获，颜乐春兴奋的道：“好家伙，这小黑是要造反了，老马，我们仨上午出去在各4s店找小黑做保养的记录，老艾在离江帆大厦不远的一家司南车4s店里，找到了小黑做保养的记录，但是只有前两年的，我在江尾区一家4s店里，发现了小黑一年前做保养的记录，做了一次软硬件大升级，升级到了当时偃师最新的版本，本市的偃师4s店只有7家，我们都排查过了，除非他们跑到外市去了。”

“最后那次保养是哪天？”

“就是你刚说的，去年11月22日，”颜乐春说道，又得意洋洋的道：“还有，你猜，它是怎么注册到itps的？”