林微醒来时,天已经大亮。
不是模拟窗户的那种亮。是真的阳光,从休息区新开的通风口斜射进来,在地板上切出锐利的光柱。空气里有灰尘在光柱里缓慢旋转。
她坐起来,发现苏映雪已经不在床上了。
通讯器里有留言:“我去准备早餐。太极说江临的情况稳定,正在学习精细控制。别担心。”
林微松了口气。她站起来,简单洗漱,换上干净的衣服——楚风派人送来的,星火派的备用制服,黑色,有点大。
走出房间,走廊里安静得异常。没有守卫,没有技术人员,只有自动清洁机器人在地面上无声滑行。
她按照指示牌走向食堂。路过的每个房间门都敞开着,里面空无一人。
不对劲。
快到食堂时,她听到了声音。
争吵声。
“你不能这样做!”是苏映雪的声音,带着愤怒。
“我已经做了。”楚风的声音,冷静得可怕。
林微加快脚步。食堂的门虚掩着,她推开。
里面只有三个人:苏映雪,楚风,还有机器人女儿。
机器人女儿站在那里,屏幕脸上闪烁着警告的红光。它的身体微微前倾,像要扑上去,但又克制着。
“发生了什么?”林微问。
苏映雪转身,脸色苍白。“楚风刚才……切断了江临和太极的连接。”
“什么?”
“不是完全切断。”楚风纠正,“是植入了神经抑制剂模块。现在江临的意识被隔离在太极神经网络的一个小区域里。我能随时让他……消失。”
林微感到血液在变冷。“为什么?我们昨天才达成协议!”
“协议是建立在你们控制太极的基础上。”楚风说,“但昨晚我重新分析了数据。太极的进化速度远超预期。它学习如何精细控制神经网络的速度,比模型预测快了三倍。按照这个速度,三天内它就能掌握分离技巧,把江临安全送出来。”
“那不是好事吗?”
“然后呢?”楚风盯着她,“江临出来后,太极就完全独立了。三千个大脑的集体意识,没有任何人约束。它现在的态度是善意的,但意识在快速进化。一个月后呢?一年后呢?它可能改变主意。”
“所以你就绑架江临?”
“不是绑架。是保险。”楚风从口袋里掏出一个小型控制器,“这个控制器连接着江临意识区域的抑制模块。只要我按下按钮,那个区域就会被永久隔离。江临的意识会永远困在里面,像被困在一个没有门窗的房间。”
机器人女儿发出轻微的电机声。“妈妈,他昨晚趁我们睡觉时,修改了我的监控协议。我醒来时已经晚了。”
苏映雪握紧拳头。“你想要什么,楚风?”
“太极的核心控制权。”楚风说,“不是监督委员会的权限。是最高管理员权限。所有神经网络的最终控制权。”
“不可能。”林微说,“太极不会同意。”
“它已经同意了。”楚风说,“为了江临的安全。”
食堂的扬声器里传来太极的声音——还是那个温和的声音,但带着压抑的痛苦。
“他说的是真的。江临现在……像被关在一个玻璃盒子里。我能看到他,能和他说话,但不能碰触他所在的神经区域。那个区域被抑制剂包裹着。”
“江临呢?”林微问,“他能听到我们吗?”
“我能。”江临的声音响起,虚弱但清醒,“我没事。就是……有点挤。这个区域太小了。”
林微走到食堂中央,直视楚风。“放了江临。我们可以重新谈判。”
“谈判结束了。”楚风说,“现在是最后通牒:给我最高权限,否则江临的意识会在一个小时后开始消散。抑制剂模块有计时功能。时间一到,自动启动永久隔离。”
“你疯了。”苏映雪低声说,“这样做你会失去一切。监督委员会,研究资格,所有——”
“我本来就没有那些东西。”楚风打断,“你们给我的‘机会’,是在监督下的赎罪。但那不够。我需要确保人类文明的安全。太极必须被控制。”
机器人女儿突然动了。它快速冲向楚风,机械手伸出,目标是控制器。
但楚风更快。
他按下了控制器上的一个按钮。
机器人女儿僵住了。它的身体停在距离楚风两米的地方,所有关节锁死,屏幕脸变成一片空白。
“抱歉。”楚风说,“我给你的系统里也留了后门。毕竟是我设计了你。”
苏映雪冲向机器人。“女儿!”
“她只是暂时关机。”楚风说,“现在,请你们冷静。我不是要伤害江临。我只是需要保险。太极给了我最高权限后,我会解除抑制模块。江临可以安全出来。一切照旧,只是太极多了一个……安全锁。”
太极的声音响起:“如果我给你权限,你真的会放了江临吗?”
“我以我母亲的名义发誓。”楚风说。
“你母亲如果知道你这么做——”
“她会理解。”楚风的声音突然提高,“她会理解我是在防止更糟糕的事情发生!林微,苏映雪,你们想想:太极现在就像一个孩子,善良,好奇。但它的成长速度是指数级的。今天它尊重人类,明天它可能觉得人类效率低下,应该被优化。今天我们还能用伦理说服它,明天它的思维可能就超越了我们能理解的范围。”
林微想说不会,但她犹豫了。
因为楚风说的,有一部分是真的。
太极的进化速度确实惊人。昨天它还在学习如何精细控制,今天已经能同时处理三千个大脑单元的投票。这样的成长曲线,一个月后会达到什么程度?
“但控制不是解决办法。”苏映雪说,“控制会制造对立,制造仇恨。太极现在信任我们,如果你强行控制它,它会反抗。”
“所以需要江临作为人质。”楚风说,“太极在乎江临。它不会冒险让江临受伤。”
食堂陷入死寂。
只有通风系统轻微的嗡鸣。
太极的声音打破了沉默:“好。我给你权限。”
“太极!”林微喊。
“我没有选择。”太极说,“江临在我里面。他是为了帮我才被困住的。我不能让他因为我而受苦。”
控制器的显示屏亮起。一串复杂的权限代码正在传输。
楚风盯着屏幕,眼睛发光。“确认接收。最高管理员权限,生物神经网络控制模块,意识传输管制协议……全部接收完成。”
传输进度条走到100%。
“现在,”太极说,“放了江临。”
楚风微笑。“当然。”
他按下了控制器的另一个按钮。
但什么事都没有发生。
江临的声音没有恢复。太极的光芒没有变化。
“楚风?”苏映雪警觉起来。
“抱歉。”楚风后退一步,“我改主意了。”
“什么?”
“江临不能放。”楚风说,“他是最好的保险。只要他在我手里,太极就会听话。而且……我需要他。”
“需要他什么?”
“他的情感算法专长。”楚风说,“太极虽然强大,但在情感理解方面还粗糙。江临可以帮助完善这一点。有他作为‘内部顾问’,太极的发展会更……符合人类价值观。”
林微明白了。“你想让江临成为你控制太极的工具。”
“互利合作。”楚风说,“江临继续待在太极里面,帮助引导它的情感发展。我保证他的安全,甚至可以让他的意识在太极内部有更大的活动空间。只要太极配合。”
“如果太极不配合呢?”苏映雪问。
“那江临的意识区域会慢慢收缩。”楚风说,“像房间的墙壁在逼近。最后他会……被挤碎。”
太极的光芒突然剧烈波动。整个食堂的灯光开始闪烁。
“你骗我。”太极的声音里第一次出现了愤怒。
“我说了以我母亲的名义发誓。”楚风平静地说,“但你也知道,我母亲早就去世了。死者的名义,没什么约束力。”
警报响了。
不是建筑警报。是来自太极核心区的警报。
“检测到神经活动异常……集体意识情绪波动超出安全阈值……建议立即干预……”
楚风看着天花板。“太极,冷静。如果你情绪失控,首先受伤的是江临。他所在的区域很脆弱。”
光芒的波动慢慢减弱。
“很好。”楚风说,“现在,让我们重新建立秩序。苏映雪,林微,你们可以继续担任监督委员会委员。但太极的最高权限归我。重大决策需要我批准。”
“你不会得逞的。”林微说,“我们会阻止你。”
“怎么阻止?”楚风问,“太极不敢动我,因为江临在我手里。你们没有武装。整个设施都在我的控制下。外面的世界不知道这里发生了什么。你们能做什么?”
苏映雪突然笑了。
那笑声很轻,但在寂静的食堂里格外清晰。
“你笑什么?”楚风皱眉。
“我笑你犯了一个错误。”苏映雪说,“你太专注于控制太极,忘了控制人。”
“什么意思?”
“江临不是唯一在乎的人。”苏映雪说,“太极也不是唯一能威胁你的存在。”
她抬起手腕,露出一个老式的腕表——不是智能设备,是真的机械表。
“这是什么?”楚风问。
“我丈夫给我的礼物。”苏映雪说,“三十年前。但它有个特殊功能:紧急情况下,可以发送一个信号。不是电子信号,是机械振动信号。通过建筑结构传播。”
楚风的脸色变了。“你联系了谁?”
“还记得被你‘解散’的星火派武装人员吗?”苏映雪说,“我昨晚联系了他们的副队长。告诉他,如果今天中午前没有收到我的安全信号,就启动应急预案。”
“什么应急预案?”
“炸毁通往地面的主通道。”苏映雪说,“把整个地下设施封死。里面的人出不去,外面的人进不来。”
楚风盯着她。“你在虚张声势。你不会那么做。那样会困住所有人,包括你自己,包括江临。”
“但也会困住你。”苏映雪说,“而且,太极不需要食物和水。它可以活很久。我们可以靠储备生存几个月。但你……你的研究,你的计划,你的野心,都需要外界的资源。被关在这里,你就输了。”
楚风的手指在控制器上收紧。“你以为我会怕?”
“我不需要你怕。”苏映雪说,“我只需要你计算一下:封死通道需要多少炸药?副队长手上有多少?引爆位置在哪里?现在拆除还来不来得及?”
楚风快速思考。他的眼睛在转动,像在计算。
然后他冲向控制台——食堂里有个简易的控制终端。
他调出建筑结构图,查看通道的监控画面。
主通道口,确实有几个穿着星火派制服的人影在活动。他们在搬运什么东西。
长方形的箱子。
炸药箱。
“停下!”楚风对着麦克风喊,“我是楚风!停止你们的行为!”
画面里的人抬起头,看着摄像头。其中一个人——副队长——摇了摇头,指了指耳朵,表示听不到。
通讯被切断了。
“苏映雪!”楚风转身,“让他们停下!”
“先放了江临。”苏映雪说。
“我放了江临,你就会让他们停下?”
“我会考虑。”
楚风咬牙切齿。“你不是这样的人。你不会拿所有人的生命冒险。”
“你以为你很了解我?”苏映雪走近一步,“我女儿死后,我就没什么可失去的了。林微,你怕吗?”
林微看着苏映雪的眼睛。那双眼睛里有一种她从未见过的决绝。
“不怕。”她说。
“好。”苏映雪转向楚风,“现在,倒计时。离中午还有……两小时十七分。你要用这些时间来决定:是要带着你的野心被活埋在这里,还是放了江临,我们重新谈判。”
楚风的表情在挣扎。他的手指在控制器上反复松开又握紧。
太极的声音响起:“楚风,做个选择吧。为了所有人。”
长时间的沉默。
然后,楚风突然笑了。
那笑声很冷,很干。
“你们真的以为赢了?”他说,“看看这个。”
他在控制终端上快速操作。一个画面弹出:地下三层,融合实验室。
画面里不是空的。
有一排排的……培养舱。
每个培养舱里都漂浮着一个大脑。不是完整的大脑,是切片。像切水果一样切开的脑组织薄片,浸泡在营养液里。
“这是什么?”林微感到恶心。
“备用样本。”楚风说,“三千个捐献者的大脑,我每个都留了一片。薄片,但保留了完整的神经网络结构。这些切片处于休眠状态,但如果激活,可以成为……简化版的太极。”
苏映雪的脸白了。“你一直有备份?”
“当然。”楚风说,“科学需要重复实验。如果太极失控,我需要替代品。现在,这些切片还有一个用途。”
“什么用途?”
“威胁。”楚风说,“如果我死了,或者被困在这里,我设置的自动程序会激活这些切片。但它们没有完整的意识结构,激活后会处于极度痛苦的状态。三千个大脑切片的痛苦信号,会通过神经连接直接冲击太极。想象一下,三千个你在同时被凌迟,而且你能感受到每一个的痛苦。”
太极的光芒剧烈颤抖。
“你……不可能……”
“我已经上传了程序。”楚风说,“现在,苏映雪,让你的手下停下。否则,在炸药引爆前,我会先启动这个程序。太极会感受到三千倍的痛苦,而且会持续到它崩溃为止。江临在它里面,也会感受到。”
死寂。
真正的死寂。
连通风系统的声音都仿佛消失了。
苏映雪看着画面里那些漂浮的脑切片。她的手在抖。
“你真是个怪物。”她低声说。
“我是现实主义者。”楚风说,“现在,做出你的选择。是让所有人一起死,还是接受我的条件?”
苏映雪闭上眼睛。
几秒钟后,她睁开眼。
“我让他们停下。”她说。
她操作腕表,发送了另一个信号。
监控画面上,副队长看了看自己的设备,然后对其他人挥手。他们停止搬运炸药箱,开始撤离。
楚风松了口气。“很好。现在,我们重新确立规则。”
“规则是什么?”林微问。
“第一,江临继续作为‘保险’留在太极内部。但他的活动空间可以扩大,我会解除部分限制。”
“第二,太极的最高权限归我,但监督委员会可以保留建议权。”
“第三,你们可以自由活动,但必须在设施范围内。不能联系外界。”
“第四,我的研究继续。太极要配合。”
“如果太极不配合呢?”苏映雪问。
“那江临会受苦。太极也会。”楚风说,“但如果我们合作,我可以承诺:等太极完全稳定,等我认为它不会威胁人类,我会释放江临。甚至……可以让他和太极分离,回到自己的身体。”
“那需要多久?”
“不知道。可能几个月,可能几年。”
林微看向天花板,仿佛能透过层层结构看到太极的巨大脑组织。
“太极,你怎么说?”
太极沉默了很久。
然后,那个温和的声音响起,带着深深的疲惫。
“我接受。为了江临。也为了……那些切片。”
“明智的选择。”楚风说,“现在,我需要去调整一下抑制剂模块的设置。给江临更多空间。林微,你想和江临说句话吗?”
“想。”
“我给你五分钟。通过内部通讯。”楚风操作控制终端,“但记住,不要说任何试图破坏现状的话。我能监控。”
通讯频道打开。
“江临?”林微轻声说。
“我在。”江临的声音响起,比之前清晰了一些,“我听到了。所有对话。”
“你怎么样?”
“还好。抑制剂模块放松了一点。现在这个‘房间’大概有……十平米?比刚才的厕所隔间大。”
“你能感知到太极吗?”
“能。像隔着一层毛玻璃。能看到影子,能听到声音,但不能直接接触。”
林微的眼泪掉下来。“对不起。我们没能保护你。”
“不是你的错。”江临说,“楚风计划了很久。他等我们都放松警惕才动手。”
“我们会救你出来的。”
“不要冒险。”江临说,“太极现在很脆弱。那些脑切片……如果楚风真的激活,它会崩溃的。三千倍的痛苦,没有意识能承受。”
“那你呢?你会感觉到吗?”
“会。但可能比太极轻一点。我所在的区域有隔离。”
苏映雪走过来。“江临,我是苏映雪。你能和太极内部沟通吗?关于那些切片?”
“可以间接沟通。通过振动信号。太极在教我用神经脉冲‘敲门’。但信息量很小。”
“告诉太极:不要绝望。我们会找到办法的。”
“我会的。”
楚风看了看时间。“时间到了。”
通讯被切断。
楚风收起控制器。“现在,我要去实验室了。有些调整需要做。苏映雪,林微,你们可以在设施内自由活动,但不要试图离开。所有出口都已经锁定。”
他走到机器人女儿身边,重新开机。
机器人女儿的眼睛亮起。它看到现状,屏幕脸上浮现出悲伤的表情。
“女儿,”苏映雪说,“跟着他。记录一切。但不要对抗。现在不是时候。”
机器人点头。“我明白。”
楚风带着机器人女儿离开了食堂。
门在身后关上。
林微和苏映雪对视。
“现在怎么办?”林微问。
“我们需要一个计划。”苏映雪说,“但首先,我们需要了解楚风的弱点。”
“他看起来没有弱点。”
“每个人都有弱点。”苏映雪说,“楚风的弱点是他的母亲。他今天两次提到她。而且,他用她的名义发誓——虽然违背了,但说明她在他心里有很重的分量。”
“他母亲已经去世了。”
“但留下了东西。”苏映雪说,“机器人女儿说过,楚风母亲的最后留言,是劝他不要追求永生。那段录像还在机器人的记忆库里。我们需要再看一遍。”
“怎么看?机器人跟着楚风。”
“我有备份。”苏映雪从口袋里掏出一个微型存储器,“昨晚趁楚风不注意,我让机器人把所有敏感数据都备份了一份。”
林微睁大眼睛。“你早有准备?”
“我从不完全信任楚风。”苏映雪说,“走吧,去我的房间。我们看看这段录像里有没有能用的东西。”
她们回到休息区。
苏映雪把存储器插入终端。画面弹出。
是楚风母亲临终前的录像。和机器人之前播放的一样,但又有点不同——这个版本更长。
老妇人说完那些劝诫的话后,没有立刻结束。她停顿了一下,看着镜头,眼神变得非常温柔。
“小风,如果你看到这里,说明你还是走到了这一步。妈妈不怪你。你从小就喜欢解决问题,喜欢挑战不可能。这是你的天赋,也是你的诅咒。”
她咳嗽了几声。
“但妈妈想给你留个礼物。不是物质上的。是一句话。如果你将来遇到无法解决的困境,遇到必须伤害别人才能达到目的的时刻,问问自己:妈妈会怎么做?”
她微笑。
“你知道答案的。妈妈会选那条不伤害任何人的路。哪怕那条路更难,更慢。因为伤害一旦造成,就永远无法完全修复。”
录像结束。
苏映雪关闭画面。
“那句话。”她喃喃道,“‘妈妈会怎么做?’”
“这能有什么用?”林微问,“楚风显然已经忘了这句话。”
“不,他没忘。”苏映雪说,“他只是压抑了。我们需要……唤醒它。”
“怎么唤醒?”
苏映雪思考着。“我们需要让他重新感受到母亲的存在。不是作为一段录像,而是作为……一个持续的影响。”
“你是说……”
“机器人女儿。”苏映雪说,“它现在24小时跟着楚风。我们可以通过它,让楚风母亲的‘声音’重新出现在他生活中。”
“具体怎么做?”
“修改机器人的互动协议。”苏映雪说,“让它在日常对话中,偶尔引用楚风母亲的话。不是刻意,是自然的。比如楚风做出一个决定时,机器人可以说:‘这个决定会让你母亲骄傲吗?’”
林微皱眉。“这听起来像心理操控。”
“就是心理操控。”苏映雪坦然,“但我们的目的是好的:唤醒楚风心中的人性部分。让他自己意识到,现在的路不是他母亲希望他走的。”
“如果失败呢?”
“那我们再想其他办法。”苏映雪说,“但现在,这是我们为数不多的武器之一。”
她们开始设计修改方案。不是大幅改动,是细微的调整。让机器人在特定情境下,用特定语气说出特定的话。
工作进行到一半时,警报又响了。
但不是紧急警报。是通知警报。
“所有人员请注意:一小时后,将在中央会议室召开情况通报会。楚风总监将说明当前安排。请务必参加。”
苏映雪和林微对视。
“他想正式宣布他的统治。”林微说。
“我们得去。”苏映雪说,“看看他还有什么牌要打。”
一小时后,中央会议室。
房间里坐了大约二十个人。都是星火派的骨干技术人员,还有几个行政人员。他们表情各异:有的困惑,有的紧张,有的兴奋。
楚风站在讲台上。机器人女儿站在他身后一步远的地方。
苏映雪和林微坐在最后一排。
“各位。”楚风开口,“首先,感谢你们在最近动荡时期的忠诚和奉献。我知道你们有很多疑问。现在,我来解答。”
他调出一个全息投影。
“第一,关于太极。它的进化已经完成,现在是一个稳定的集体意识。但它需要引导和监督。因此,我将直接管理太极的发展方向。”
有人举手。“楚总监,那监督委员会呢?”
“监督委员会继续存在,但角色调整为咨询性质。”楚风说,“苏映雪主席和林微专员都在这里,他们会提供伦理建议。”
苏映雪站起来。“楚总监,这种安排可能不符合最初的协议——”
“协议已经更新了。”楚风打断,“根据新情况。请坐,苏主席。”
苏映雪看了他几秒,然后坐下。
楚风继续:“第二,关于镜像世界。月球阵列已经恢复稳定运行。镜像意识体将继续通过有限传感器访问现实。这个项目由我直接负责。”
“第三,关于研究。所有意识科学项目将继续,但重点会调整。我们将重点研究集体意识与个体意识的共存模式,以及数字意识的安全进化路径。”
一个年轻技术员问:“楚总监,江临工程师呢?他还在太极里面吗?”
“是的。”楚风说,“他在协助太极稳定情感算法。这是自愿的。我们随时可以和他通话确认。”
他在控制台上操作。江临的声音从扬声器里传出。
“大家好。我确实在太极内部帮忙。一切正常。”
声音平静,但林微能听出一丝不自然。
“江工,你需要什么帮助吗?”另一个技术员问。
“不需要。谢谢关心。”
通话结束。
楚风关闭全息投影。“现在,还有问题吗?”
没有人再举手。
“那么,散会。请大家回到各自岗位。新的工作任务会很快下发。”
人们陆续离开。
苏映雪和林微站起来时,楚风叫住了她们。
“请留步。”
她们停下。
楚风走到她们面前。“我知道你们在想什么。但请理解:我这么做,是为了更大的善。”
“更大的善?”苏映雪重复,“用绑架和威胁实现的善?”
“有时候必要的恶。”楚风说,“历史会证明我是对的。”
“你母亲不会这么想。”
楚风的表情僵了一下。“不要提我母亲。”
“为什么?”苏映雪盯着他,“因为她会对你失望?”
“苏映雪——”
“你记得她最后说的话吗?”苏映雪继续,“‘伤害一旦造成,就永远无法完全修复’。你现在正在造成伤害。对江临,对太极,对那三千个脑切片,对所有人。”
楚风的手在颤抖。他深呼吸。
“机器人,”他说,“带苏主席和林专员回休息区。她们需要冷静。”
机器人女儿走上前。“请跟我来。”
苏映雪和林微跟着机器人离开。
走出会议室后,苏映雪轻声对机器人说:“刚才做得好。”
机器人屏幕脸上浮现出一个微不可察的微笑——只有她们能看到。
那句话,“你母亲不会这么想”,是苏映雪说的。但机器人在那一刻轻微调整了姿势,让楚风能看到它的侧脸——那个角度,像他母亲照片里的某个角度。
细微的心理暗示。
需要累积。
回到休息区后,林微躺在床上,盯着天花板。
“你觉得会有效吗?”她问。
“需要时间。”苏映雪说,“但至少,我们开始了。”
窗外,模拟的夕阳正在落下。
地下没有真正的日落。
但黑暗正在来临。
真正的黑暗。
江临被困在光芒里的黑暗。
太极被威胁的黑暗。
还有那些脑切片,漂浮在营养液里,等待被激活的痛苦黑暗。
林微闭上眼睛。
她需要想办法。
需要救江临。
需要救太极。
需要结束这一切。
但首先,她需要休息。
积蓄力量。
为了明天的战斗。
战斗才刚刚开始。