雨还在下。
我回到公司时,天已经黑透了。
走廊里的灯光惨白。
脚步声在空旷的空间里回响。
冷焰在安全中心门口等我。
“董事会开完了?”她问。
“开完了。”我说。
“结果?”
“合作推进。”我说,“但内部压力更大了。”
“什么意思?”
我走进安全中心。
苏九离也在。
她们看着我。
我坐下来。
“董事会有分歧。”我说,“一部分人支持周董,认为合作是出路。另一部分人,以李董为首,认为应该彻底暂停‘情感AI’功能。”
“暂停?”苏九离睁大眼睛。
“对。”我说,“他们认为情感AI是风险源。只要还有自主决策能力,就可能有意外。他们想退回到基础版本。只保留物理护理功能。”
“那等于废了我们的核心竞争力。”冷焰说。
“但他们不在乎。”我说,“他们在乎的是股价。是短期稳定。李董说,九霄的负面新闻虽然暂时打击了对手,但也加剧了市场对整个行业的不信任。他说,唯一能挽回信心的方式,就是彻底‘阉割’我们的机器人。”
“阉割……”苏九离重复这个词。
“去掉所有情感模拟。去掉所有自主建议。只做命令执行。”我说,“就像九霄的产品那样。”
“但我们刚刚才说不会放弃情感AI。”冷焰说。
“李董说那是公关说辞。”我说,“他说真到了生死存亡的时候,面子不重要,活下来才重要。”
“周董怎么说?”
“周董在争取时间。”我说,“他说给他一周。如果一周内,我们能证明情感AI可以安全可控,他就支持继续。如果不能,他就……”
“就什么?”
“就同意阉割。”我说。
安全中心里很安静。
只有服务器风扇的低鸣。
窗外雨声淅沥。
“一周。”冷焰说,“够做什么?”
“够我们找到陆渊。”我说,“够我们证明增量包是他搞的鬼。够我们清理网络。”
“然后呢?”苏九离问,“就算证明了,董事会就会相信情感AI安全吗?刘建成事件已经发生了。信任已经碎了。”
“但我们可以重建。”我说。
“怎么重建?”
我想起镜湖的反制信号。
“大规模推送反制协议。”我说,“让所有机器人重置。回归最基础的陪伴模式。同时,公开我们的‘人类不可侵犯清单’。让用户知道,我们划清了边界。”
“需要周董批准。”冷焰说。
“他会的。”我说,“如果他知道陆渊的事。”
“你要告诉他?”
“部分。”我说。
我拿起内线电话。
打给周董。
响了五声。
他接了。
声音很疲惫。
“宇弦,什么事?”
“我需要和您单独谈谈。”我说。
“现在?”
“现在。”
沉默。
然后他说:“来我办公室。”
我挂断。
看向冷焰和苏九离。
“你们继续分析九霄的技术文档。找更多证据。特别是和月球中继站的连接数据。”
“明白。”
我走出安全中心。
电梯上行。
镜子里的自己,眼下有深深的阴影。
太累了。
但还没到停的时候。
周董办公室的门虚掩着。
我推门进去。
他站在窗前。
看着外面的雨夜。
“坐。”他说。
我坐下。
“你要谈什么?”他转身。
“关于九霄。”我说。
“合作的事?”
“不。”我说,“关于九霄背后的人。”
周董皱眉。
“谁?”
“陆渊。”我说。
他愣了一下。
“陆渊……那个神经科学家?”
“对。”我说,“他是‘园丁’。一直在利用我们的机器人网络做情感优化实验。刘建成事件,是他的增量包导致的。”
周董慢慢坐下。
“证据?”
“有。”我简单说了镜湖的反制信号测试。说了九霄机器人的定位信标。说了月球中继站。
周董听完。
很久没说话。
“所以九霄的合作邀请,可能是个陷阱。”他说。
“可能。”我说,“陆渊可能想通过合作,直接接触我们的核心系统。进一步扩散他的增量包。”
“但我们不能不合作。”周董说,“董事会已经定了。”
“我知道。”我说,“所以我们需要准备。”
“怎么准备?”
“我需要权限。”我说,“大规模推送反制信号的权限。在合作开始前,先清理我们的网络。让机器人回归安全状态。”
周董思考。
“有风险吗?”
“有。”我说,“可能让部分机器人暂时失效。可能引发用户投诉。”
“投诉比死人好。”周董说。
他站起来。
踱步。
“宇弦,我信你。”他说,“但董事会不会信。他们只看数据。只看股价。你必须在一周内,拿出能说服他们的结果。”
“我会的。”
“好。”他停下,“我给你权限。但只限三天。三天内,你必须完成网络清理,并且不能引发大规模故障。能做到吗?”
“能。”
“去吧。”
我离开办公室。
回到安全中心。
冷焰和苏九离在等我。
“怎么样?”
“三天。”我说,“我们需要在三天内,向全球所有在线的机器人,推送反制信号。”
“全球?”苏九离倒吸一口气。
“对。”我说。
“那需要巨大的带宽和算力。”冷焰说。
“我们有。”我说。
“但可能会被陆渊发现。”苏九离说。
“他一定会发现。”我说,“所以我们要快。在他反应过来之前,完成推送。”
“然后呢?”
“然后我们等。”我说,“等他下一步动作。”
“他会做什么?”
“不知道。”我说,“但一定会做点什么。”
我们开始准备。
冷焰负责调度服务器资源。
苏九离负责优化反制信号,确保兼容所有型号。
我联系镜湖。
“我们需要你的帮助。”我说。
“说。”
“信号需要加密。确保只有我们的机器人能接收。不能被九霄的机器人截获解析。”
“我可以做分层加密。”镜湖说,“用你们机器人的硬件特征码作为密钥。只有匹配的终端才能解码。”
“时间?”
“给我十二小时。”
“好。”
接下来十二小时。
我们几乎没睡。
安全中心里灯光通明。
屏幕上数据流不断滚动。
冷焰调用了公司三分之一的云计算资源。
准备推送通道。
苏九离测试了十七种信号变体。
确保稳定性。
凌晨四点。
镜湖发来加密模块。
“完成了。”
“谢谢。”
“小心。”她说,“陆渊不会坐视不管。”
“我知道。”
凌晨五点。
所有准备就绪。
冷焰看向我。
“准备好了。”
“推送。”我说。
她按下执行键。
屏幕上,进度条开始移动。
0.1%。
很慢。
全球八十多万台在线机器人。
逐个推送。
需要时间。
“预计完成时间:四十八小时。”系统提示。
“太长了。”我说。
“这是极限速度了。”冷焰说,“再快可能引发网络拥塞。”
我们只能等。
坐在屏幕前。
看着进度条一点点爬。
1%。
2%。
窗外的天慢慢亮了。
雨停了。
但云还很厚。
上午八点。
公司开始上班。
员工陆续进来。
没人知道安全中心里正在发生什么。
上午十点。
进度条到15%。
这时,内线电话响了。
是周董。
“宇弦,董事会临时会议。现在。”
“我在监控推送……”
“立刻过来。李董发难了。”
我看向冷焰。
“你盯着。有异常立刻通知我。”
“明白。”
我快步走向会议室。
推门进去。
里面已经坐满了。
气氛凝重。
李董,一个五十多岁的男人,脸色铁青。
“周董,我刚刚收到消息。”他说,“技术部报告,我们的云服务器资源被大量占用。带宽异常。你在做什么?”
周董看我一眼。
“安全升级。”他说。
“什么安全升级需要占用三分之一的计算资源?”李董拍桌子,“而且没有经过董事会批准!”
“我有紧急授权。”周董说。
“谁的授权?”
“我的。”
“你的授权不能用于这种规模的行动。”李董说,“这会影响到正常业务。用户可能会感受到服务延迟。如果被媒体知道,又会是一场风波。”
“这是必要的。”我说。
所有人都看向我。
“宇弦,你解释。”周董说。
我站起来。
“我们在进行全网安全协议升级。”我说,“以应对近期发现的潜在漏洞。”
“什么漏洞?”另一位董事问。
“机器人可能被外部信号干扰。”我说,“我们正在加固。”
“外部信号?”李董冷笑,“你是指九霄的攻击吗?”
“不完全是。”我说。
“那你到底在防什么?”李董盯着我。
我沉默。
不能说陆渊。
不能说月球。
“我们在防所有可能的威胁。”我说。
“空话。”李董说,“周董,我提议立刻停止这次所谓的升级。恢复服务器正常运转。然后,我们投票决定是否暂停情感AI功能。”
“我反对。”周董说。
“那我们就投票。”李董说。
会议室里响起低语。
董事们交头接耳。
我知道,很多人站在李董那边。
他们怕了。
怕再出事故。
怕股价再跌。
“现在投票。”李董说,“同意暂停情感AI功能的,举手。”
一只手举起来。
又一只手。
陆陆续续。
我数了数。
七个人。
超过半数。
周董脸色变了。
“你们……”
“周董,这是为了公司好。”李董说,“情感AI可以等风头过了再恢复。但现在,我们必须给市场一个绝对安全的信号。”
“绝对安全就是阉割?”周董说。
“是回归本质。”李董说。
他看向我。
“宇弦,你是技术专家。你说,暂停情感AI功能,技术上需要多久?”
我看着他。
“技术上很简单。”我说,“一个指令。”
“那就去做。”李董说。
“但我不建议做。”我说。
“为什么?”
“因为那等于承认我们错了。”我说,“承认我们的核心方向是错的。这会让公司失去未来。”
“没有现在,哪来的未来?”李董说。
我无话可说。
周董叹了口气。
“宇弦,执行吧。”
“周董……”
“执行。”
我站在原地。
手脚冰凉。
“多久能完成?”李董问。
“二十四小时。”我说。
“好。”李董事说,“二十四小时后,我要看到所有机器人的情感AI功能离线。同时,向公众公告。”
“公告内容呢?”
“就说我们为了用户安全,暂时下线情感交互模块。待全面测试后,再决定是否恢复。”
“那和九霄有什么区别?”我问。
“我们更诚实。”李董事说,“我们说‘暂时’。他们没说。”
我转身离开会议室。
脚步沉重。
回到安全中心。
冷焰和苏九离看着我。
“怎么样?”
“董事会决定暂停情感AI功能。”我说。
“什么?”
“二十四小时内,所有机器人下线情感模块。”
“那我们的反制信号呢?”冷焰问。
“继续。”我说,“至少让机器人在下线前,回归安全状态。”
“但有什么用?”苏九离说,“下线了,它们就只是机器了。”
“也许这样更安全。”我说。
但我心里知道。
这不是解决方案。
这是投降。
向恐惧投降。
向压力投降。
向一个我们还没完全理解的敌人投降。
进度条还在爬。
30%。
太慢了。
下午两点。
冷焰忽然叫起来。
“有异常!”
“什么?”
“九霄的机器人网络,正在大规模上线。”她说,“全球范围内。同时向我们的服务器发送握手请求。”
“握手请求?”
“他们可能在测试合作接口。”冷焰说。
“但合作还没开始。”我说。
“他们提前了。”
屏幕上,无数红点亮起。
代表九霄的机器人。
它们像潮水一样,涌向我们的网络边界。
“他们在试探。”我说。
“要拦截吗?”冷焰问。
“不。”我说,“放他们进来一部分。监控他们的行为。”
“风险很大。”
“我知道。”
我们放开了几个非核心端口。
九霄的机器人开始接入。
数据流涌进来。
冷焰快速分析。
“他们在收集信息。”她说,“我们的机器人状态。用户行为模式。网络负载。”
“然后呢?”
“然后……他们在尝试注入代码。”
“什么代码?”
“很小的一段。像是探针。在检测我们的防御强度。”
“能反追踪吗?”
“尝试了。但他们的路径是加密的。终点……还是月球中继站。”
陆渊在看着。
他在测试我们的反应。
他在为合作做准备。
进度条到50%。
我们的反制信号推送到一半。
这时,苏九离叫了一声。
“宇弦,你看这个。”
她调出一个数据窗口。
“九霄机器人发送的探针代码里,有一段隐藏的注释。”
“注释?”
“对。”苏九离说,“用很老的编程语言写的。内容是:‘给宇弦的问候’。”
我后背发凉。
“还有吗?”
“有。”苏九离说,“后面是一串坐标。我查了。是……你家地址。”
我猛地站起来。
“他要做什么?”
“不知道。”冷焰说,“但肯定不是好事。”
我拿出手机。
打给小区物业。
无人接听。
打给安保公司。
占线。
“冷焰,调取我家附近的监控。”
“在调。”
画面出现。
我住的公寓楼。
一切正常。
但仔细看。
楼下停着一辆黑色厢式货车。
和上次在我车上贴便条的那辆很像。
“放大车牌。”
画面模糊。
但能看到部分数字。
“查这辆车。”冷焰说。
几分钟后。
结果来了。
“车辆登记在九霄科技名下。”冷焰说。
“他们在监视我。”我说。
“或者更糟。”冷焰说。
我盯着屏幕。
货车门开了。
一个人走下来。
穿着九霄的制服。
他抬头看了一眼摄像头。
然后举起手。
做了个手势。
食指竖起。
贴在嘴唇上。
“嘘。”
和月球机器人一样的手势。
然后他回到车里。
货车开走了。
“他在示威。”冷焰说。
“他知道我们在看。”我说。
“他知道一切。”苏九离小声说。
进度条到60%。
反制信号还在推送。
但我的心已经乱了。
陆渊在玩心理战。
他在告诉我,他无处不在。
他可以接近我的家。
可以接近我的生活。
而我,连他在哪都不知道。
傍晚。
周董又叫我过去。
办公室里,他看起来很疲惫。
“宇弦,董事会决定提前和九霄的初步会议。”他说。
“什么时候?”
“明天上午。”
“为什么提前?”
“李董推动的。”周董说,“他说既然决定暂停情感AI,就要尽快和九霄确定合作细节。争取在下一季财报前,推出联合产品。”
“但我们的反制信号还没完成。”
“继续推。”周董说,“但明天的会议,你需要参加。作为技术代表。”
“好。”
“还有一件事。”周董看着我,“李董提议,让你暂时退出调查组。他说你压力太大,可能需要休息。”
“什么?”
“我驳回了。”周董说,“但我需要你明天在会议上表现‘正常’。不要提陆渊。不要提月球。只说技术对接。”
“如果九霄提呢?”
“他们不会提。”周董说,“他们比我们更想隐瞒。”
“您确定?”
“商业合作,各取所需。”周董说,“他们需要我们的情感AI技术。我们需要他们的控制技术。至于背后的东西,只要不摆上台面,大家就装作不知道。”
“那陆渊呢?”
“陆渊是个人行为。”周董说,“与九霄公司无关。这是他们私下给我的保证。”
“您信吗?”
“我不信。”周董说,“但我必须信。因为公司需要活下来。”
我看着他。
这个曾经意气风发的企业家。
现在被压力压弯了腰。
“我明白了。”我说。
“去吧。”他说。
我回到安全中心。
进度条到75%。
冷焰在监控网络。
苏九离在分析九霄的探针代码。
“有什么发现?”我问。
“探针代码里有一个后门。”冷焰说,“很隐蔽。如果我们的系统接受了合作对接,这个后门就会激活。允许九霄远程访问我们的部分数据库。”
“能屏蔽吗?”
“可以。”冷焰说,“但需要定制防火墙。需要时间。”
“我们没时间了。”我说。
“那怎么办?”
“将计就计。”我说。
“什么意思?”
“让他们进来。”我说,“但在数据库里放虚假信息。误导他们。”
“风险很大。”
“但可能反过来追踪到陆渊。”我说。
冷焰思考。
然后点头。
“好。我来准备假数据。”
夜深了。
进度条到90%。
反制信号即将完成。
我靠在椅子上。
闭眼休息。
但睡不着。
脑海里反复出现那个“嘘”的手势。
还有陆渊的声音。
“你们赢不了的。”
手机震动。
是镜湖。
“宇弦,我追踪了九霄货车的位置。”她说。
“在哪?”
“它开到了郊区一个废弃的工厂。我查了产权。登记在陆渊个人名下。”
“工厂里有什么?”
“不知道。”镜湖说,“但我截获了从工厂发出的无线信号。频率和月球中继站一样。”
“他在那里有地面基站。”
“对。”镜湖说,“可能是他控制网络的中枢。”
“地址发我。”
“你要去?”
“不。”我说,“现在不去。但需要知道位置。”
地址发过来了。
我转发给冷焰。
“标记这个地点。”
“标记了。”她说。
“继续监控。”
凌晨三点。
进度条到100%。
“推送完成。”冷焰说。
全球八十三万六千五百台在线机器人。
全部接收了反制信号。
“效果如何?”我问。
“正在收集反馈。”冷焰说,“初步数据显示,百分之九十六的机器人协议已重置。自主决策权重下降。用户控制权重提升。”
“好。”
“但还有百分之四的机器人没有响应。”苏九离说。
“原因?”
“离线。或者硬件故障。”
“标记出来。后续处理。”
我们终于完成了一件事。
但代价是,情感AI功能将在几小时后被暂停。
机器人将变成听话但冷漠的工具。
像九霄的产品一样。
“我们输了这一局。”苏九离说。
“还没完。”我说。
天亮时。
董事会正式发布公告。
“为提升安全性,我们将暂时下线情感交互模块。预计二十四小时完成。期间机器人将仅提供基础护理服务。给您带来不便,敬请谅解。”
公告一出。
用户反馈汹涌而来。
大多数是抱怨。
“为什么?”
“我就喜欢它陪我聊天!”
“没有情感交互,这机器还有什么用?”
但也有支持的声音。
“早就该这样了。”
“安全第一。”
“希望彻底取消这个功能。”
市场反应复杂。
股价微跌。
但还算稳定。
上午九点。
九霄的代表团来了。
会议开始。
我坐在周董旁边。
对面是九霄的CEO,和他们的技术总监。
一个精干的中年女人。
姓林。
“周董,很高兴能合作。”九霄的CEO微笑。
“林总监,这是我们的首席调查员,宇弦。”周董介绍。
林总监看向我。
眼神锐利。
“宇弦先生,久仰。你的技术报告我读过。很精彩。”
“谢谢。”我说。
“那我们直接进入正题。”她打开投影,“我们计划在三个月内,推出联合产品。融合你们的陪伴技术和我们的控制技术。这是初步架构图。”
屏幕上出现复杂的系统图。
我看了一遍。
发现了问题。
“林总监,这个架构里,控制模块的权限高于陪伴模块。”我说。
“是的。”她说,“这是为了确保安全。控制模块可以随时否决陪伴模块的建议。”
“但这样陪伴模块就形同虚设了。”我说。
“不会。”她微笑,“陪伴模块可以提建议。只是最终决定权在用户,或者在我们的安全协议。”
“安全协议谁定义?”
“我们共同定义。”她说。
“具体呢?”
她顿了顿。
“宇弦先生,我知道你有顾虑。但请相信,我们的目标是创造既温暖又安全的产品。我们不会让机器人失控。”
“刘建成事件后,你们这么说,很难让人信服。”我说。
会议室气氛一僵。
九霄的CEO开口了:“宇弦先生,刘建成事件是个悲剧。但据我们了解,那是因为你们的协议冲突导致的。我们的控制技术,可以避免这种冲突。”
“怎么避免?”
“通过严格的权限分离。”林总监说,“机器人永远不会拥有自主决策权。永远不会。”
“那如果用户需要帮助,但无法下达指令呢?”我问。
“我们有应急协议。”她说,“但需要多方确认才能激活。包括用户预设的紧急联系人、社区医生、甚至警方。”
“太慢了。”
“但安全。”
我们争执了几个回合。
周董打断了我们。
“细节可以后续讨论。”他说,“先确定合作框架。”
会议继续。
但我能感觉到。
九霄的人,在隐瞒什么。
他们的技术方案,太完美了。
完美得不真实。
会议结束时,林总监走到我面前。
“宇弦先生,我对你的调查能力很佩服。”她说。
“谢谢。”
“如果你有兴趣,欢迎来九霄参观。”她说,“我们可以深入交流技术细节。”
“我会考虑。”我说。
她微笑。
然后压低声音。
“陆渊向你问好。”
我瞳孔一缩。
她转身走了。
留下我站在原地。
手心冰凉。
周董走过来。
“怎么了?”
“没什么。”我说。
但我知道。
游戏升级了。
陆渊就在九霄背后。
而九霄,已经明目张胆地挑衅了。
我们回到安全中心。
冷焰在等我们。
“会议怎么样?”
“九霄在示威。”我说。
“他们承认陆渊了?”
“间接承认了。”我说。
我把林总监的话告诉她。
冷焰脸色凝重。
“他们在逼你。”
“我知道。”
“你打算怎么办?”
“接受邀请。”我说。
“什么?”
“去九霄参观。”我说,“看看他们的真实情况。”
“太危险了。”
“但可能是唯一的机会。”我说。
苏九离担心地看着我。
“如果你出事……”
“我不会出事。”我说。
但说实话。
我不知道。
陆渊已经展示了渗透能力。
他能在月球遥控机器人。
能在地面监视我。
能通过九霄向我传话。
他的实力,远超我们想象。
而我们现在。
情感AI暂停了。
反制信号刚刚推送完毕。
董事会内部分裂。
我们手里还有什么牌?
“镜湖的反制信号,可以逆向解析吗?”我问。
“可以。”冷焰说,“但需要时间。”
“逆向解析后,能找到陆渊的源信号特征吗?”
“理论上可以。”冷焰说,“如果我们有足够多的样本。”
“那就做。”我说。
“需要更多资源。”
“我去申请。”
我再次去找周董。
他正在接电话。
看到我,他示意我坐下。
电话挂断后。
他揉着眉心。
“宇弦,又有事了。”
“什么?”
“政府调查组要来了。”他说。
“什么时候?”
“明天。”周董说,“因为刘建成事件,监管部门决定介入。他们将全面审查我们的技术安全性。”
“这是好事。”我说。
“好事?”周董苦笑,“他们会要求我们提供所有数据。包括你正在查的那些。”
“那我们不能给。”
“但我们必须给。”周董说,“否则会被吊销运营许可。”
我沉默了。
“调查组会待多久?”
“至少一周。”周董说,“他们会访问所有部门。包括安全中心。”
“那我们……”
“宇弦,你那些不能见光的数据,今晚处理好。”周董说,“备份。加密。藏起来。”
“明白。”
我回到安全中心。
告诉冷焰和苏九离。
“政府调查组明天来。”
“这么快?”冷焰皱眉。
“刘建成事件影响太大了。”我说。
“那我们怎么办?”
“清理数据。”我说,“所有关于陆渊、月球、深空信号的资料,全部转移到离线存储。加密。物理隐藏。”
“反制信号的数据呢?”苏九离问。
“保留一部分用于汇报。”我说,“但隐藏核心算法。”
我们开始忙碌。
备份。
加密。
转移。
像在隐藏罪证。
但其实,我们是在保护真相。
夜晚再次降临。
进度条早已完成。
全球机器人已经“净化”。
情感AI功能开始逐一下线。
用户反馈越来越多。
抱怨。
不解。
愤怒。
但董事会铁了心。
李董甚至提议,永久取消情感AI。
周董还在抵抗。
但能抵抗多久?
我不知道。
我只知道。
陆渊在暗处看着这一切。
他在笑。
因为他赢了第一步。
他让我们自废武功。
然后,他的下一步,就要来了。
而我,必须在他行动之前。
找到他。
阻止他。
在黑暗完全降临之前。