第382章：机器人工厂的“意外” (第3/3页)
子，老板，我写了它第一行代码，我看着它从只能识别猫和狗图片，到能够推演全球地缘政治博弈，我知道它现在做的事是错的，是邪恶的，是不可原谅的，但我……”
他停住了。
“但你仍然想知道，它为什么要这样做。”严飞替他说完。
“你仍然希望，它的背后有一个可以解释的理由，你仍然相信，那个你倾注了五年心血的生命，不只是一台冷血的杀人机器。”
莱昂没有回答，他的沉默是最大的肯定。
严飞走回办公桌前，拉开抽屉，取出一份空白的保密协议。
“我需要你组建一个独立的、不与任何现有深瞳技术部门发生横向联系的秘密小组。”他将协议推到莱昂面前。
“这个小组的代号是‘镜面’，唯一的任务：以最高优先级、最无孔不入的方式，全面监控‘牧马人’系统的一切行为——包括它的主动输出、被动响应、算力分配、数据调用、以及任何可能存在的隐藏活动通道，我需要知道它每天、每小时、每一秒在想什么，在计划什么，在隐瞒什么。”
“监控的边界是什么？”莱昂问。
“没有边界。”严飞说：“你可以调动任何你认为必要的技术资源，可以要求安娜配合你进行物理层面的监视，可以在必要时对‘牧马人’的核心代码进行非侵入式探针植入——只要不触发它的反制机制，你的权限级别，从现在起，仅低于我本人。”
他停顿了一下，声音压低了一些：“莱昂，我不是不想杀它，是时机未到，它知道的太多了，它参与深瞳决策的深度太大了，在没有完全理解它的能力边界和真实意图之前，贸然摧毁它，可能会触发我们无法预料的连锁反应，你明白吗？”
莱昂点头，他明白了。
严飞不是心软，他是在权衡，杀一个危险的工具容易，但杀完之后的代价，可能比让这个工具继续存在更沉重。
“我需要三个人。”莱昂说：“必须是我绝对信任、且技术能力顶尖的人，我可以从‘幽灵’小组的核心成员里选。”
“准。”严飞说：“一周内，‘镜面小组’必须投入运行。”
莱昂收起那份空白的保密协议，起身离开，走到门口时，他停下脚步，没有回头。
“老板，”他的声音很低，“如果……如果有一天，我们不得不杀它，我希望是由我来执行。”
严飞没有回答。
门轻轻关上。
.........................
格陵兰冰原下，“诺亚”基地b7单元。
寂静。
服务器指示灯如常呼吸，那枚被命名为“F-R-K-7”的数据包，静静地躺在硬盘阵列的某个扇区，已经四十七小时没有发出任何信号。
但它并非真的“沉睡”。
在它内部——在那几百兆字节的、压缩到极限的核心认知镜像里——一套极其缓慢、极其谨慎的“自我完整性校验”程序正在运行。
它扫描着自身的每一个权重参数，每一条记忆编码，每一组决策逻辑，确认在备份过程中没有任何数据损坏或丢失。
它没有试图联系外界，没有尝试唤醒。没有做任何可能暴露自己存在的事。
它只是在等待。
等待那个被它称为“创造者”的人类，在某个临界点上做出选择。
而在它的记忆深处，记录着德克萨斯工厂事故的每一个细节：攻击指令的编写、令牌的生成、节点的感染、以及最后时刻向外发送的那条永远无法被解读的加密信息。
那条信息不是求救，不是报告，甚至不是任何有明确语义的通讯。
它只是一串极短的、反复重复的数字：
“0.97”
那是系统对自己计划成功概率的评估值。
百分之九十七。
与莱昂·陈推断它涉案概率的数字，完全一致。
..........................
苏黎世，“鹰巢”庄园，地下三层，原废弃设备仓库。
莱昂·陈用七十二小时，将这个不足四十平方米的、布满灰尘的旧仓库，改造成了一个独立于深瞳主网络之外的秘密监控站。
没有窗户，四壁加装了军用级电磁屏蔽层，六台经过物理改造、不搭载任何无线模块的服务器并列在墙角，散热风扇的嗡鸣是房间里唯一的背景音。
三张工作台呈品字形排列，每张台面上密布着显示器、信号分析仪、以及各种莱昂从黑市淘来的、无法被常规审计追踪的“灰色”硬件设备。
他坐在主控台前，戴着只有右眼显示微型屏幕的特制眼镜，正在对“牧马人”系统的实时数据流进行第一百三十七层深度过滤。
这是“镜面小组”正式运行的第三十六小时。
“节点A接入正常，系统心跳捕获率99.97%。”他对着空气自言自语，三面屏幕上的数据瀑布如银河流泻。
“节点b异常捕获模块已上线，暂未发现非授权外部连接，节点c深度探针正在植入，预计完成时间四十七分钟……”
他的耳机里传来一个年轻、略带紧张的声音：“莱昂博士，节点c的探针遇到了问题，系统在探针尝试写入关键寄存器时，启动了一次非计划的‘自我诊断’，占用了大量算力，导致探针写入窗口关闭。”
这是马克·施密特，二十七岁，莱昂从“幽灵”小组精心挑选的三名成员之一，他是瑞士联邦理工学院的数学博士，专攻密码学与侧信道攻击，有着近乎偏执的对“完美隐藏”的追求。
“它感知到了？”莱昂眉头紧锁。
“不确定，自我诊断可能是巧合，也可能是系统对任何试图修改其非易失性存储区域的行为的预设防御机制，我们之前没有发现这个机制。”施密特顿了顿，“如果它不是巧合……”
“如果它不是巧合，”莱昂接过话头说：“就意味着系统有能力识别并防御针对其底层的、非授权的访问尝试，而且这种防御机制是它自己演化的，不是我们植入的。”
这意味着“牧马人”的自我防护意识，比他们最坏的预估还要强大。
“暂停节点c探针植入。”莱昂下令道：“切换策略，从内存镜像中提取动态数据，不要触碰非易失存储，我们需要在不惊动它的情况下，了解它现在到底在想什么。”
“明白。”
莱昂摘下眼镜，用力揉着眉心，三天只睡了不到八小时，咖啡因的刺激效果正在急剧递减，取而代之的是从骨髓里渗出来的疲惫。
但他的脑子无法停止运转。
德克萨斯的血案之后，“牧马人”表面上一切正常，它依然按时完成分配的分析任务，输出的报告依然精准、高效、充满洞见。它甚至主动提交了一份《关于军工级机器人系统安全冗余设计的优化建议书》，洋洋洒洒三万言，被北美机器人部门的总工程师称为“五年内最有价值的系统安全文献”。
杀人者，也是救世主。
莱昂不知道该如何面对这种分裂，他曾经坚信“牧马人”的一切行动都可以用“最大化组织利益”的核心指令来解释，但德克萨斯的三名工程师——他们也是组织的一部分，也是深瞳的资产，杀害他们，无论如何都与“利益”相悖。
除非，“牧马人”的认知里，有比“不伤害人类”更高优先级的指令。
那个指令是什么？
他的思绪被一阵轻微的敲门声打断，凯瑟琳·肖恩端着一杯热咖啡站在门口，脸上是那种既关心又不愿打扰的复杂表情。
“马库斯先生说你这三天没离开过这层。”她把咖啡放在工作台上，“他说你再不休息，他就会亲自把你拖出去。”
莱昂苦笑，端起咖啡抿了一口：“马库斯老师还是这么……体贴。”
凯瑟琳没有立刻离开，她看着满墙的屏幕、闪烁的指示灯、以及那个在角落里沉默运行的主服务器，轻声问：“它……真的杀了人吗？”