第四章（1/2）

一连几天，兰灵都没有消息传来，马明空并不着急，事实上，他有点怕接到兰灵的电话，告诉他：“马科长，小黑确实有问题。”新型案件侦破科成立后，他一直在想，“新型”二字“新”在哪里？这三个月来，虽然没立过一起案件，他和艾新好等人也没有闲着，参加各种学习班培训班成了他们的日常工作，同时，艾新好作为资深网络及安全专家，义不容辞的在内部开展了技术摸底考试和扫盲学习，艾新好是个认真的人，所有的学习都要经过考试，更让大家叫苦不迭。至于他自己，还要常常出差到其他城市参加经验学习和交流讨论，在这个过程中，他逐渐明白一个道理，虽然从没人讲过他们科负责的案件范围，但“新型案件”在可见的将来恐怕主要集中在和ai人工智能相关的案件上。

在上个月省局组织的研讨会上，有人讲述了不久前发生的一个案例，ai矿工机器人在井下作业时，挖穿了地下水，造成三名人类矿工受伤被困在坑道内，当时井下尚有一台完好无损的ai矿工，在地面的遥控指挥下，这台ai矿工先后救出了两名人类矿工，就在它返回井下准备实施最后一次救援时，次生灾难发生，矿井坍塌，留在井下的最后一名矿工不幸罹难，由此引发了复杂的责任认定和诉讼关系：首先，地下水挖穿是谁的责任？机器人制造商、煤炭公司还是设计方？当时有没有人类矿工在附近监督？其次，矿难发生后，为什么不派更多的ai矿工下井，一次将人类矿工救出？再者，次生灾难又是如何引发的？是随着时间推移而必然发生的，还是的救援过程导致的？最后，也是最有争议的，是谁决定了这三名人类矿工被救出的先后顺序？地面指挥部矢口否认是他们的决定，按他们的说法，他们只要求那台ai矿工尽快救出所有人，这三名人类矿工并不是困在一处，ai矿工没有按他们离出口的远近距离实施救援，第一个被救出的反而是距离最远的那人，由于这台ai矿工最后也没有脱困被深埋于地底，已经没有直接数据来研究当时这台ai矿工作出如此决策的逻辑了。

事后，一个由数名专家组成的独立调查团给出了一个推测，这台ai矿工起初也许作出了最优的决策，理论上，它一次可以救出两名矿工，也许，它是想先找到最远那人，在返程时顺路再携带一人出井，但不知何故，ai矿工第一次只带出了最远那人，也许是ai矿工判断最远那人当时受伤严重急需出井救治，但这个推测很难解释ai矿工在第二次下井时，仍然先找到离出口第二远的人，并且再次只携带他一人出井。

此案在研讨会上引起了热烈的讨论，更有人提出了一个颇为震惊的假设，这台ai矿工的决策没有问题，但两次，都是被救的人类矿工要求自己尽快出井，不许它再花时间去找同伴。此话一出，会场上顿时鸦雀无声，连马明空都能感到，也许才是最有可能的真相。

不管如何，这些研讨让他明白，ai案件是一样会死人的。多年前，他刚加入警队，那时他常常期盼着案件的降临，每侦破一个刑事案件，他的荣誉簿上就增加了浓重的一笔，嘉奖立功是彼时的他的人生目标，直到有一天，没人和他说，他自个突然想到，每一个刑事案件背后，都至少有一个受害人的身影，他怎么能盼望着多一点案件分给他呢？因此，当新型案件侦破科三个月没开张，他内心深处，反而一片安详。

当然，事情已经发展到这个地步，马明空不可能完全保持住内心的平静，所以当周三快下班、兰灵打电话约他下来见面时，他是一路急走，奔至分局斜对面的小茶店，见到兰灵面带倦容、神色憔悴的坐在临街窗边的一张小桌前，不由吃了一惊，忙问她何事？兰灵没有回答，只淡淡一笑，道：“这里怎么样？我记得你喜欢在茶社里谈秘密。”

马明空虽喜饮茶，但此间却从未光顾过，他略略环视四周，这是一间不起眼的小茶店，点点头道：“还行吧，”顿了一顿，忍不住问道：“你还好吗？”

兰灵摇了摇头，侧眼向窗外看了一会，才回转目光，说道：“我一直很疑惑，人类的记忆为何会出现偏差？这似乎是人类这一物种特有的现象，有种解释说是在追溯记忆时，信息可能会被伪造、误导，重新写入时，记录的就是与事实不符的记忆了，可为什么要伪造？是人类的自主意识有意为之吗？如果在原始狩猎采集阶段，原始人出现记忆偏差，是会导致灭顶之灾的，这种意识能力，为什么会遗传下来？”

马明空听了，一句话也答不上来，只好默默的看着对方，茶店甚小，老板就是店员，他要了一壶玫瑰花茶，给兰灵和自己斟上，呷了一口，等着兰灵继续。

晶莹剔透的玻璃杯中散发着香甜的玫瑰花香，兰灵却似乎没有品尝的意愿，依旧陷入自己的沉思之中，过了好半晌，才道：“我叫你下来，是想告诉你，这几天，我尝试解读了小黑ai大脑的部分可见部分，对比了它在本体、边缘、云端的记忆数据，数据本身没有发现异常，没有不一致的地方，但我发现了一个问题，它的记忆，似乎被扰动过。”

马明空奇道：“数据一致，但记忆被扰动过？怎么个扰动法？”

“我不知道，”兰灵的脸上显出愈发痛苦的表情，马明空想安慰她却又不知如何开口，兰灵看了他一眼，摇头道：“我没事，”隔了一会，又道：“我在楚蕙家里时，曾问过小黑，‘柯先生以往对楚女士家暴的时候，楚女士是常常反抗，偶尔反抗，还是不反抗？’它答复说，‘偶尔反抗’，我当时没有觉察出什么，可是，当我看了它在本体存储的记忆，也就是自去年11月22日重启换血后积累的数据，发现期间，柯先生有3次比较明显的家暴，但楚女士从来没有反抗过。”

“这说明不了什么问题吧，”马明空道：“也许在11月22日前，楚女士反抗过，所以小黑才说‘偶尔反抗’。”

“不不，你没搞明白，机器人是怎么记忆的，小黑现在本体内的数据，包括了从去年11月22日至今的数据，以及它最后一次重启换血时，从边缘以及云端下载得到的脱敏数据，这些数据不会包含和家政服务无关的信息，即便真有和家暴相关信息，也会是遇到此类情况触发报警这样的知识，小黑是断不会再有去年11月22之前，柯先生家暴的具体记忆的，除非它能联网到最原始的归档数据，可那在物理上是不可能的，归档数据是不会联网的。”

“你的意思，小黑撒谎？”马明空若有所思，他想起兰灵刚才的言语，接着道：“或者说，它的记忆，出现了偏差？”

似乎是面前的玫瑰花茶散发的热气起了香薰的功效，兰灵的脸色渐渐恢复了正常，一抹红晕染上了脸腮，说道：“姑且不论一个家政机器人是不可能具有说谎的能力，就算它有，它是如何构造这个虚假记忆的？它不可能凭空说谎，必须要改造记忆，按人类的说法，就是先让自己信以为真，才能回答出想要的答案，可这虚构的记忆在哪里？我看过它在边缘的数据，也没有这样的记忆。”

“边缘的数据？”马明空奇道。

“是的，我这几天又设法核实了小黑在边缘保存的数据，”兰灵点了点头，又道：“而且，如果仅仅是这些，还不足以引起我的困惑，比如它的数据或大脑因为长期没有更新，垃圾太多，从而导致字节信息突变，甚或它在11月22之前的数据因为某种原因没被彻底清除，这在理论上都是有可能的，这也是为什么法律要求商用机器人必须定期重启换血的原因。”

她的双眉重又凝在一起，道：“我回忆了小黑当天的表现，发现小黑在回答我这个问题时，并不是脱口而出，中间停顿了足足有2.5秒那么长！”

“这有问题吗？”

“问题就在这里，哪怕小黑的记忆出现了偏差，机器人的所有问答都来自本体、边缘或云端的知识，它要么脱口而出，如果出现停顿，那么它的回答一定是‘我不知道’！”

“这就是你认为小黑的记忆被扰动的原因？”

“我的导师在十几年前就预测过一种‘ai记忆扰动’现象，他担心，ai机器人发展到一定阶段，基于量子技术的ai大脑趋于开放，有可能会出现量子扰动，从而导致记忆、逻辑等能力出现扰动，也许小黑当时就处在一种不确定的状态，才会导致停顿。”

“会不会是被黑客入侵吗？”

“不是，”兰灵摇了摇头，心知一两句解释不清，话锋一转，说道：“我现在有些后悔，那天晚上，没有去拆解查看小黑的道德黑匣子。”

“但是道德黑匣子一旦拆开导出数据，原来的数据就失效了吧。”马明空参加了几次培训班，对机器人的道德黑匣子印象比较深刻，在ai矿工救援案中，因为缺乏ai矿工的道德黑匣子，无法获取当时ai矿工做出决策的依据和逻辑过程，从而难以界分责任。

“是这样的，可我总归想看到小黑在那一刻的决策过程，”兰灵双眉舒展，眼中露出坚定之色，说道：“在那2.5秒内，位于道德黑匣子里的道德伦理内核究竟发生了什么？内核虽无法直接观看，但黑匣子记录的数据总是透明公正的，可以侧面推导，它当时为什么要撒谎，依据是什么？还有，它是否真的经历了记忆扰动？”

马明空忽然明白了兰灵来找他的动机，说道：“我去问问贺思孟，就是前几天我们见的那个私家侦探，看看他有没有办法，再让你看看小黑的道德黑匣子。”

兰灵先是一愣，接着便露出淡淡的笑容，说道：“我想你误会了，我确实想解开这个技术上的谜团，但也不希望再通过那种非法的方式。”

马明空暗想，你说这么多，无非还是想利用自己这里的官方合法渠道，当下便把麦局长的话向兰灵转述了一遍，又道：“柯锐木坠楼已经过去两周了，眼下只能等待，也许不久便会有转机。”

马明空这几天在家里的日子可不舒心，因为租家政机器人的事，小蕊对他一直没有好脸色，说话动不动夹枪带棒的，到了周日这天，他痛定思痛，决定请小蕊和以真去希林市时光博物馆游玩，小蕊在欢呼雀跃了几秒后，又严肃的告诉他：“老马，你这次错误太大，想通过一次贿赂来改变我对你的看法，是不够的。”

其实，小蕊去时光博物馆已经多次了，但里面人气最旺的分馆—“冲出白垩纪”却一直没能进去，这个分馆只允许18岁以上成年人才能进入，戴上ar眼镜，穿上感应战服，手持激光仿真枪，单人或组团，在白垩纪的原野间、森林中和海滩上，和陆地上的恐龙、天空中的翼龙、海中的沧龙作战，因为总有一些十六七岁的少年想着法子混进去，博物馆本着“堵不如疏”的策略，终于在去年，面向12岁以上少年，新开了一个“狂野侏罗纪”的分馆，马明空这次带小蕊去的，就是这个新开分馆。

三人买了票，领了装备穿上，然后在入口处排队等候，“等1小时玩1小时，太划不来了。”小蕊嘟囔着，她看着长长的队伍，热情有点下降了。

“先看看游戏，熟悉环境和玩法，一会进去立马上手，1小时当2小时玩，你看其他小朋友都是这样。”马明空拍拍小蕊的头，把手机递给她。

“我不是小朋友了好不好！我都13岁了！”小蕊有点恼怒的晃了晃头，两根小辫一甩一甩的，推开他递过来的手机，拿出自己的手机，戴上ar眼镜，玩起了“狂野侏罗纪”的同款游戏。

好在三人并没有真的等上1小时，因为不断有女孩子提前从馆内退出来，小蕊轻蔑的看着这些吓的脸色苍白、叽叽咋咋小跑出来的女孩子，对马明空拍着胸脯道：“虎父无犬女，老马你放心好了。”

小蕊没有吹牛，一踏进馆内，便如脱缰之马驹，更如初生之牛犊，一溜烟的冲进了蕨类冲天的茂密森林，混忘了刚才三人商量了好半天的团队合作策略。马明空一伸手没拉住她，耳听的四下里全是连恐龙的低鸣吼叫声都掩盖不住的少年们的喊杀声，不由的担心起来，以真在一旁笑道：“不用担心，她胆子大的很。”