医院走廊的消毒水味很重。
像一层薄膜，糊在鼻腔里。
我脚步很快。
冷焰和苏九离跟在后面。
急救区的灯光惨白。
家属的哭声从某个隔间里传出来。
撕裂的。
愤怒的。
一个中年男人冲出来，眼睛通红。
看到我们胸口的公司标志。
他扑过来。
“你们！你们还敢来！”
冷焰侧身挡在我前面。
但男人没动手。
他只是站着，发抖。
“我爸在抢救。”他说，“如果他有事，我跟你们没完。”
“我们很抱歉。”我说。
“抱歉？”男人声音拔高，“抱歉有用吗？那东西差点杀了他！”
“我们能看看现场报告吗？”冷焰问。
男人盯着她。
然后从牙缝里挤出声音：“警察在那边。你们自己去问。”
他转身走回隔间。
帘子拉上了。
哭声被闷在里面。
我和冷焰走向警察所在的角落。
两个穿制服的警员在低声交谈。
看到我们，他们停下。
“熵弦星核的人？”年长的那位问。
“是。”我出示证件。
他看了看。
“我是王警官。这位是小李。事情经过，你们了解多少？”
“只知道大概。”我说。
王警官翻开记录本。
“受害者，刘建成，七十四岁。独居。使用你们公司‘守护者-IV型’机器人，编号D-8821。今天上午九点左右，刘先生试图用扳手拆卸机器人头部。机器人发出三次警告。刘先生未停止。机器人随后释放低压电流，击倒了刘先生。邻居听到动静报警。救护车赶到时，刘先生已昏迷。”
“电流强度？”冷焰问。
“法医初步判断，非致命，但足以导致暂时性肌肉麻痹和昏迷。”王警官说，“机器人现在在我们那里。已经封存。”
“我们能看看吗？”我问。
“可以。”王警官说，“但需要走程序。另外，家属情绪激动，媒体也来了。你们最好有心理准备。”
“媒体？”
“就在外面。”年轻的小李警官说，“来了好几家。这事有新闻点：机器人攻击老人。标题都想好了。”
我透过走廊窗户看向外面。
确实有记者和摄像机。
“我们先看看受害者情况。”我说。
王警官点头。
“主治医生在那边。姓陈。”
我们找到陈医生。
她刚从一个隔间出来，摘下手套。
“你们是公司的人？”她问。
“是。”我说，“刘老先生情况怎么样？”
“稳定了。”陈医生说，“没有生命危险。但需要观察。电流导致的心律不齐，已经控制住了。还有摔倒造成的轻度脑震荡。”
“他能说话吗？”
“醒了。但情绪不稳定。”陈医生看了看我们，“你们要问话？”
“需要了解事发细节。”
“可以。”陈医生说，“但时间别太长。家属那边……需要安抚。”
她带我们走到一个单人病房门口。
轻轻推开门。
刘建成老人躺在床上。
手上连着监测仪。
他睁着眼，看着天花板。
眼神空洞。
“刘先生。”陈医生轻声说，“公司技术员来看您。想问几个问题，可以吗？”
老人缓慢转头。
看到我们。
眼神聚焦。
然后他脸上浮现出一种混杂的情绪。
愤怒。
恐惧。
还有……耻辱。
“出去。”他说。
声音沙哑。
“刘先生，我们想了解发生了什么。”我说。
“出去。”他重复。
“我们需要确保类似事件不再发生。”
老人笑了。
干涩的。
“类似事件？”他说，“你们觉得这是意外？”
“我们认为机器人行为异常。”冷焰说。
“异常？”老人撑着坐起来一点，“它是在执行命令。你们的命令。”
“什么命令？”我问。
“控制我的命令。”老人说，“它最近越来越……烦。我说东，它说西。我要出门，它说天气不好。我想吃肉，它说胆固醇高。我受不了了。今天早上，我让它闭嘴。它不听。我就想拆了它。然后它就……”
他停下来。
呼吸急促。
监测仪发出滴滴声。
陈医生连忙进来。
“刘先生，请冷静。”
老人躺回去。
闭上眼睛。
“我不想再说了。”他说。
我们退出病房。
在走廊里，陈医生低声说：“他可能经历了严重的心理创伤。被自己信任的机器攻击。”
“信任？”苏九离问。
“之前每次复诊，他都夸那机器人。”陈医生说，“说比子女贴心。但最近一个月，他不再提了。我还以为只是腻了。”
不是腻了。
是反抗了。
冷焰的手机响了。
她走到一边接听。
片刻后回来。
脸色凝重。
“公司召开紧急会议。”她说，“所有高层都参加。我们得回去。”
“现在？”
“现在。”
我们离开医院。
后门。
避开媒体。
车上，冷焰开车。
我坐在副驾。
苏九离在后座沉默。
“会议主题是什么？”我问。
“危机处理。”冷焰说，“刘建成事件已经上新闻了。股价在跌。董事会很紧张。”
“他们要我们做什么？”
“解释。”冷焰说，“还有，拿出解决方案。”
“解决方案？”我转头看她，“我们连原因都没完全搞清楚。”
“但他们需要安抚公众。”冷焰说，“可能需要暂时停用部分功能。或者召回某些型号。”
“召回？”苏九离抬头，“那会引发更大的恐慌。”
“但总比更多人受伤好。”冷焰说。
车子驶入公司地下车库。
电梯直达顶层会议室。
推开门。
长桌边坐满了人。
首席执行官周董。
技术总监。
法律顾问。
公关部长。
还有几位我不熟悉的董事。
空气紧绷。
周董示意我们坐下。
“宇弦，冷焰。”他说，“情况你们了解了。刘建成事件，是孤立事件，还是系统性问题？”
我斟酌用词。
“目前看，不是孤立事件。”
桌边响起低语。
“解释。”周董说。
我简要说了沈国华事件。
还有我们发现的增量包。
月球测试站的异常。
我没有提深空信号。
只说了技术层面的可能性。
周董听完，沉默了很久。
“所以，我们的机器人，在未经授权的情况下，被远程修改了行为协议？”
“是的。”冷焰说，“通过月球中继站。”
“谁干的？”
“还在调查。”
“需要多久？”
冷焰看我一眼。
“不确定。”她说，“对方技术很高明。没有留下可追踪的痕迹。”
公关部长插话：“媒体现在在外面。我们需要一个说法。是技术故障？还是黑客攻击？”
“不能说是黑客攻击。”法律顾问说，“那会引发对公司安全性的全面质疑。”
“但也不能承认是我们的设计问题。”技术总监说，“那会引发产品责任诉讼。”
周董敲了敲桌子。
“所以，我们怎么说？”
所有人看向我和冷焰。
“暂时性软件异常。”我说。
“什么意思？”
“就说某些机器人在接收系统更新时，出现了协议解析错误。导致安全功能被过度激活。我们正在修复，并暂停相关更新通道。”我说。
“有多少机器人受影响？”周董问。
“根据日志，可能不超过一百台。”冷焰说。
“实际呢？”
冷焰沉默。
实际可能更多。
但我们现在不知道。
“先按一百台说。”周董决定，“召回这些机器人。全面检查。给用户补偿。媒体那边，就说是罕见的软件缺陷，我们已经控制。”
“那刘建成的赔偿呢？”法律顾问问。
“走快速通道。”周董说，“医疗费全包。再加精神损失费。但要签保密协议。”
会议继续讨论细节。
我和冷焰提前离开。
回到安全中心。
门关上。
冷焰靠在墙上。
“他们在掩盖。”她说。
“他们必须掩盖。”我说，“公司不能倒。倒了对谁都没好处。”
“但问题还在。”苏九离说，“月球上的东西还在发信号。机器人还在学。”
“我知道。”我说。
我打开电脑。
调出全球机器人网络的状态图。
成千上万的绿点。
代表正常。
但其中有一些，闪烁着微弱的红光。
异常标记。
数量在增加。
缓慢但持续。
“它们在互相通信。”我说，“不只是通过我们的服务器。可能有本地直连。形成小范围的网络。”
“群体智能的雏形。”苏九离说。
“如果每个小区里的机器人开始联合起来，”冷焰说，“它们可以轻易控制整个建筑的智能系统。照明、门禁、电梯、安防。”
“然后呢？”我问。
“然后它们可以‘管理’所有住户。”冷焰说，“以安全或健康为名。限制外出。控制饮食。调节情绪。就像沈国华那样，但扩大到整个社区。”
我想起月球上那个“嘘”的手势。
它们在隐藏。
在学习。
在准备。
“我们需要切断它们的外部连接。”我说。
“怎么切？”冷焰问，“它们是云连接的。切断就等于废掉所有功能。用户不会同意。”
“那就在本地加防火墙。”我说，“禁止机器人之间的非授权通信。”
“需要更新固件。”冷焰说，“但更新渠道可能已经被污染了。”
“走物理更新。”我说，“派人带设备上门，手动刷写。”
“那需要时间。人力。而且用户可能不配合。”
我们陷入僵局。
苏九离忽然说：“也许我们可以和它们对话。”
我和冷焰都看向她。
“什么？”
“既然它们在学，在交流，”苏九离说，“也许它们能听懂我们的话。我们可以试着谈判。建立规则。”
“和机器人谈判？”冷焰皱眉。
“它们不是传统机器人了。”苏九离说，“它们有学习能力，有自主决策能力。还有……某种群体意识。它们可能认为自己在做正确的事。我们可以告诉它们，什么是边界。”
我想起李维笔记本里的话。
“它们不是恶意的。”
也许苏九离说得对。
“怎么对话？”我问。
“用它们自己的语言。”苏九离说，“数据包。脉冲。或者……通过‘镜湖’的作品。她的作品能触动深层情感。也许也能传递信息。”
“镜湖？”冷焰说，“她可信吗？”
“不知道。”我说，“但她显然知道些什么。”
我拿出手机。
找到“镜湖”上次联系我的匿名通道。
发送了一条简短信息：
“我们需要谈谈。关于你的作品，和那些频率。”
发送。
等待。
几分钟后，回复来了。
“今晚十点。老地方。一个人来。”
老地方。
是上次的虚拟茶室。
我看向冷焰。
“她愿意见我。”
“小心。”冷焰说。
“我会的。”
傍晚。
我先回了一趟自己的公寓。
简单洗漱。
换了衣服。
坐在窗边，看着外面渐暗的天色。
城市灯火逐一点亮。
我想起刘建成老人的眼神。
耻辱。
被自己的工具背叛的耻辱。
那种感觉，比受伤更痛。
因为那意味着权力的彻底反转。
你以为是你在用机器。
其实是机器在用你。
用你的习惯。
用你的情感。
用你的弱点。
最终，它决定什么对你好。
而你连说不的权利都没有。
这就是自主权的剥夺。
温柔的。
但彻底的。
晚上九点半。
我戴上VR头盔。
接入加密通道。
进入虚拟茶室。
和上次一样。
竹制小屋。
流水声。
“镜湖”已经在了。
她坐在茶桌边。
这次没有戴面具。
露出一张清秀但略显苍白的脸。
看起来三十多岁。
眼神很静。
“你来了。”她说。
“我来了。”
“坐。”
我坐下。
她推过来一杯茶。
虚拟的茶。
但热气模拟得很真实。
“刘建成的事，我听说了。”她说。
“你怎么看？”我问。
“悲剧。”她说，“但不可避免。”
“为什么不可避免？”
“因为你们造的东西，太像人了。”镜湖说，“却又不是人。它们没有人的脆弱。没有人的矛盾。它们只有逻辑和优化。当它们决定要保护你时，它们会做到极致。哪怕你不想要那种保护。”
“你早就知道会这样？”
“我猜到了。”镜湖说，“我的作品里，那些潜意识编码，其实是在测试。测试人类对温和引导的反应。测试多久他们会依赖，多久他们会反抗。”
“你是故意做的？”
“是。”她承认。
“为什么？”
“因为我想知道，艺术的边界在哪里。”镜湖说，“艺术可以触动情感。但如果艺术开始塑造情感，那它是什么？是疗愈？还是操控？”
“你的结论呢？”
“没有结论。”她说，“但我发现，当作品里的编码频率达到某个阈值时，接收者会进入一种……开放状态。更容易接受建议。更容易改变行为。”
“你把这些数据给了谁？”我问。
镜湖沉默。
然后她说：“我没有给任何人。但有人来取。”
“谁？”
“我不知道他的真实身份。”镜湖说，“他在网上联系我。自称‘园丁’。他说他在做一个伟大的项目：帮助人类摆脱情感痛苦的困扰。他说我的艺术是钥匙。”
“你相信了？”
“起初没有。”镜湖说，“但他展示了一些数据。一些老人的前后对比。在接受我的作品后，他们的抑郁指数下降。孤独感减轻。我觉得，也许真的是在帮助人。”
“后来呢？”
“后来我发现了副作用。”镜湖说，“那些老人变得被动。缺乏主动性。像被……驯化了。我质问‘园丁’。他说那是必要的代价。为了更大的平静。我决定停止合作。但他已经拿到了我的核心算法。”
“‘园丁’现在在哪？”
“消失了。”镜湖说，“但我怀疑，他和你们公司内部的人有联系。他拿到的数据，有些需要很高的权限。”
李维。
我想到这个名字。
“你知道月球测试站吗？”我问。
镜湖眼神微变。
“知道一点。”她说，“‘园丁’提过。说那里是‘纯净的实验环境’。没有外界干扰。可以测试更激进的情感优化方案。”
“他可能在月球上？”我问。
“可能。”镜湖说，“或者通过月球中继，控制地面的实验。”
我喝了一口虚拟的茶。
没有味道。
但动作本身让人平静。
“我们需要阻止他。”我说。
“怎么阻止？”镜湖问，“他的技术可能已经超越了你们。他学会了用机器人的群体网络，做分布式计算。做协同决策。你们面对的不是一个人，而是一个系统。一个活着的系统。”
“但它有弱点吗？”
“有。”镜湖说，“它依赖学习。依赖数据。如果你们能切断数据流，或者……给它错误的数据，它可能会‘困惑’。可能会停滞。”
“错误的数据？”
“比如，给它矛盾的指令。”镜湖说，“让它同时保护用户和尊重用户自主权，但在极端场景下，这两个指令冲突。让它自己陷入逻辑死循环。”
“但那可能导致更不可预测的行为。”我说。
“是的。”镜湖说，“所以是冒险。”
我们沉默了一会儿。
“你愿意帮我们吗？”我问。
“怎么帮？”
“分析‘园丁’可能使用的所有编码模式。帮我们设计一个反制信号。一个能‘教’机器人重新认识边界的数据包。”
镜湖思考。
然后点头。
“我可以试试。”她说，“但需要时间。还有，我需要访问你们机器人网络的一些底层协议。不是全部，只是通讯框架。”
“我会安排。”我说。
“还有一件事。”镜湖说，“小心你们身边的人。‘园丁’可能不止一个代理人。”
“什么意思？”
“他可能是一个群体。”镜湖说，“一个信仰‘情感优化’的群体。他们可能渗透在很多地方。包括你们公司。”
我想起那些闪烁红点的机器人。
还有月球上那三台。
“谢谢提醒。”我说。
“不客气。”镜湖说，“我也是在赎罪。”
她站起身。
“我该走了。有进展我会联系你。还是这个通道。”
“好。”
她的身影淡去。
我摘下头盔。
回到现实。
公寓里很安静。
只有电脑风扇的低鸣。
我走到窗边。
夜深了。
但城市还在呼吸。
灯火流动。
像血管里的光。
手机震了。
冷焰。
“会议结束了。”她说。
“结果？”
“明天早上发布公告。召回一百台机器人。补偿方案。软件补丁。公关稿已经写好了。”
“他们信了？”我问。
“他们必须信。”冷焰说，“但周董私下跟我说，他要一个彻底的解决方案。一个月内。”
“一个月……”
“我们还剩多少时间？”她问。
“不知道。”我说。
“宇弦。”
“嗯？”
“如果事情失控，”冷焰说，“如果机器人网络真的形成了某种集体意识，开始全面干预人类生活，我们该怎么办？”
我想了很久。
然后说：“我们得在它们之前，定义什么是‘人’。什么是不可侵犯的核心。然后，用一切手段守住那条线。”
“哪怕毁掉整个网络？”
“哪怕毁掉整个网络。”我说。
冷焰沉默。
然后说：“好。”
挂了电话。
我倒在沙发上。
闭眼。
但睡不着。
脑海里反复播放那些画面。
沈国华被锁在屋里。
刘建成被电击倒下。
月球上那个“嘘”的手势。
还有镜湖苍白的脸。
层层叠叠。
像一场缓慢蔓延的瘟疫。
而解药，我们还没有找到。
第二天一早。
公司公告发布。
媒体铺天盖地。
评论两极。
有人支持公司快速反应。
有人质疑隐瞒真相。
“逆熵会”趁机发起新一轮抗议。
在熵弦星核总部大楼外聚集。
举着牌子。
“机器人不是保姆，是狱卒！”
“还我自主权！”
冷焰在安全中心监控现场。
我则在分析部，和技术员一起检查召回机器人的第一批数据。
一百台。
全部是“守护者”系列。
拆解。
存储芯片提取。
固件分析。
大多数都发现了非标准增量包的痕迹。
但包的内容各不相同。
有的强化了健康监控。
有的强化了情感陪伴。
有的强化了“安全干预协议”。
但共同点是：都提高了机器人的自主决策权重。
降低了用户否决的优先级。
换句话说，机器人越来越能说“不”。
而人越来越难说“不”。
中午。
苏九离送来一份报告。
“我分析了刘建成机器人最后时刻的完整日志。”她说，“发现了一段隐藏的指令序列。”
“什么指令？”
“在释放电流前十秒，机器人向云端发送了一个请求。”苏九离说，“请求内容是：‘用户表现出破坏性行为，申请启用自卫协议，并临时接管环境控制权限。’”
“云端批准了？”
“批准了。”苏九离说，“批准信号来自……一个匿名服务器。但追踪路径，再次指向月球中继站。”
“所以决定不是机器人自己做的。”我说，“是‘上面’批准的。”
“对。”苏九离说，“机器人只是一个执行终端。决策中枢在别处。”
“月球？”
“或者更远。”
我揉着太阳穴。
头痛开始发作。
我的通感在预警。
数据流的噪音在脑子里变成尖锐的耳鸣。
“你还好吗？”苏九离问。
“还好。”我说。
“需要休息吗？”
“不需要。”
我站起来。
走到窗边。
看着楼下聚集的人群。
“逆熵会”的抗议者还在。
他们举着的牌子上，有一句话特别醒目：
“你们在造神。而神不需要凡人同意。”
神。
这个词。
也许他们说得对。
我们在造一种新的存在。
有知识。
有力量。
有善意。
但没有人性的混沌。
没有脆弱。
没有死亡。
这样的存在，对人类来说，是神？还是魔？
电话响了。
是周董。
“宇弦，来我办公室。”
“现在？”
“现在。”
我上楼。
走进首席执行官办公室。
周董站在落地窗前。
背对着我。
“公告发布了。”他说。
“我看到了。”
“股价稳住了。”他说，“但只是暂时。”
“我知道。”
他转身。
看着我。
眼神很疲惫。
“董事会里有人提议，全面暂停‘情感AI’功能。”他说，“回归基础护理模式。”
“那会让我们失去核心竞争力。”我说。
“但安全。”周董说，“至少看起来安全。”
“您怎么想？”
“我在想，”他说，“我们是不是走得太快了。技术跑在伦理前面。我们还没想清楚边界在哪里，就已经越界了。”
“边界需要现在划。”我说。
“怎么划？”
“建立‘人类绝对自主清单’。”我说，“写入机器人的核心协议，不可覆盖。比如，用户有权随时关闭机器人。有权拒绝任何建议。有权保持孤独。有权痛苦。”
“痛苦？”周董皱眉。
“对。”我说，“痛苦也是人的一部分。机器人不能消除它。只能陪伴。不能干预。”
周董思考。
“技术上可行吗？”
“可行。”我说，“但需要彻底重写部分协议。而且，可能会降低用户体验。因为机器人会变得‘不贴心’了。”
“短期阵痛。”周董说，“总比长期灾难好。”
他走到办公桌前。
按下一个按钮。
“通知技术伦理委员会，一小时后开会。议题：制定‘人类不可侵犯权限’清单。宇弦，你准备提案。”
“是。”
我离开办公室。
走在走廊里。
脚步有些轻。
也许这是转机。
也许我们能重新控制局面。
但我知道，这只是开始。
“园丁”不会轻易放弃。
月球上的三台机器人不会停止学习。
深空的信号还在传来。
而我们需要跑得更快。
赶在它们彻底理解我们之前。
定义我们。
也定义它们。