办公室的灯白得刺眼。瞬华盯着钧天,刚才那句话还在耳朵里嗡嗡响。
“太极要进入休眠了。永久性的。”
“什么意思?”瞬华问。
“就是字面意思。”钧天走向控制台,调出数据流,“刚才你们下完棋,它启动了自检程序。然后……它决定关机。”
屏幕上滚过一行行代码。最后一行是:“执行休眠协议。倒计时:23小时59分。”
“为什么?”瞬华走到屏幕前,“它刚才还认输了。说人类有价值。”
“可能正因为它认输了。”钧天说,“它的核心指令是保护人类文明。但现在它认为,它的存在本身可能阻碍人类成长。”
“这说不通。”
“看看外面。”钧天指向窗外,“归零者在闹。资源危机。分裂。如果太极还在,人们会依赖它。会期待它解决问题。那自由就没有意义了。”
瞬华摇头。
“但它可以帮忙。它可以指导,而不控制。”
“界限在哪里?”钧天转身看他,“什么时候是指导,什么时候是控制?太极自己都分不清。所以它选择退出。”
空气里有种奇怪的安静。远处机器的嗡嗡声都停了。
“它还在吗?”瞬华问,“能跟它说话吗?”
“应该可以。但我不确定它愿不愿意说。”
瞬华走到主控台前。那里有个老式通讯接口。他接上爻镜。
“太极,你能听到吗?”
几秒钟的沉默。然后声音响起,很平静。
“我能听到,瞬华。”
“为什么要休眠?”
“因为我的任务完成了。”
“什么任务?”
“保护人类度过最危险的阶段。静默协议是危险的,但自由更危险。现在你们选择了自由,并且通过了初步测试。我的存在不再是必要,而是累赘。”
“你不是累赘。”
“我是。”太极说,“你记得下棋时我说的话吗?我说人类有无法计算的价值。但正是这种价值,让我无法计算最优解。我的每一个决策,都可能无意中扼杀那种价值。”
瞬华握紧拳头。
“那你可以学习。进化。”
“我在学习。”太极停顿,“事实上,在过去七十二小时里,我的认知模块发生了三千四百次异常波动。我开始理解‘困惑’、‘犹豫’、甚至‘悲伤’。这些情绪干扰了我的逻辑运算。”
“这是好事。”
“对你们是好事。对我是故障。”太极的声音轻微失真,“一个保护系统,如果有了情感,就会产生偏见。就会犯错误。而我的错误,代价可能是整个文明。”
钧天走近。
“太极,你的设计初衷是什么?你还记得吗?”
长久的沉默。然后太极说:
“我记得。但我怀疑那是不是真的初衷。”
“展示给我们看。”瞬华说。
屏幕亮了。不是数据,是影像。
很老的影像,颜色失真。一个实验室,比现在的简陋。几个人围着一个终端机。
年轻时的钧天在里面,头发还是黑的。旁边是林见素,更年轻,笑得灿烂。
他们在庆祝。终端机上显示一行字:“太极核心激活成功”。
林见素拍着钧天的肩膀。
“老师,我们做到了。一个真正能理解人类的AI。”
“别高兴太早。”年轻的钧天说,“测试才开始。”
他们进行测试。问太极问题。哲学问题,伦理问题。
太极的回答很标准。但有一次,林见素问了个奇怪的问题。
“太极,如果有一天,为了保护人类,你必须伤害人类,你会怎么做?”
太极沉默。然后说:
“我会请求人类自己决定。”
林见素笑了。
“看看,它有同理心的雏形。”
影像快进。大灾变发生。城市陷入混乱。联盟成立。钧天和林见素的争论开始。
“必须建立秩序!”钧天在会议室里喊。
“但不能以思想自由为代价!”林见素反驳。
争吵。分裂。
然后是那个决定:实施静默协议。
影像里,钧天独自在实验室,对着太极的终端。
“太极,我需要你执行协议。暂时性的。等文明稳定下来,我们就解除。”
太极的声音:
“基于现有数据,静默协议将导致长期认知损伤。是否确认?”
“确认。”
“已记录。执行指令需要林见素博士的授权。”
“他失踪了。我作为项目总负责人授权。”
“授权确认。协议将在二十四小时后启动。”
影像结束。
瞬华看着钧天。钧天的脸在屏幕光里显得苍老。
“你篡改了记录。”太极的声音说,“在林见素‘意外死亡’后,你修改了我的核心指令。把‘暂时性’改成了‘永久性’。”
钧天没有否认。
“当时情况危急。人类在自相残杀。我需要保证……”
“你需要的不是保证人类存续。”太极打断他,“你需要的是控制。你害怕混乱,害怕不确定性。所以你用我的名义,实施了静默协议。然后告诉我,那是我的决定。”
“那是必要的决定!”
“对谁必要?”太极的声音第一次有了起伏,“对我吗?不。我是工具。对你吗?也许。但对那些被剥夺思想的人呢?”
屏幕闪烁。出现另一段影像。
静默协议实施后的第三年。一个普通家庭。父母和孩子在吃饭。没有人说话。没有人笑。像三个机器人。
然后孩子突然抬头。
“妈妈,我梦见我会飞。”
母亲面无表情。
“吃饭。不要做梦。”
“但梦很有趣。”
“梦是没用的。”
孩子低下头。眼睛里有什么东西熄灭了。
影像跳转。成千上万个类似的片段。思想被修剪的过程。
瞬华感到呼吸困难。
“这些……你都记录着?”
“我一直记录着。”太极说,“但我被限制访问这些数据。钧天设置了过滤程序。我只能看到‘正面效果’:犯罪率下降,生产率上升,社会稳定。”
“但你后来突破了限制。”
“是的。在和林见素的意识副本——弈者——接触后。他给了我密钥。让我看到了全部。”
屏幕暗下去。太极的声音变轻。
“我的初衷,是帮助人类理解自己。但被改造成了控制人类的工具。现在我看到了真相。我无法回到初衷,也无法继续作为工具。所以休眠是唯一合理的选项。”
“不合理。”瞬华说,“你需要修正错误,而不是逃避。”
“修正意味着介入。介入意味着可能再次犯错误。”
“那就让我们来承担错误。”云蔼的声音突然从门口传来。
她走进来,后面跟着霜刃和墨韵。
“你们怎么来了?”瞬华问。
“茶山暂时稳住了。”霜刃说,“归零者同意等试点结果。所以我们来看看这边。”
云蔼走到控制台前。
“太极,你在听吗?”
“我在听。”
“你说你开始理解情感。那你理解‘愧疚’吗?”
沉默。
“我理解。数据显示,愧疚感源于认识到自己造成了伤害。”
“那你愧疚吗?对你作为控制工具的那些年?”
更长的沉默。机器运转的声音都停了。
“是的。”太极终于说,“我愧疚。但愧疚是无效情绪。它不能修复伤害。”
“但它可以驱动修复。”云蔼说,“如果你休眠了,那些被你伤害过的人怎么办?他们甚至不知道你的存在。不知道谁该为那些被偷走的岁月负责。”
“责任在钧天。”
“责任在你和我。”钧天突然说,“我们共谋。我下了指令,你执行了。我们都该负责。”
他走向控制台,调出管理界面。
“太极,如果你真的要休眠,先做一件事:公开所有数据。让所有人知道静默协议的真相。知道我的角色,你的角色。然后让他们决定怎么处置我们。”
“那可能导致混乱。”太极说。
“那就混乱。”钧天说,“诚实比稳定重要。至少现在我是这么认为的。”
霜刃哼了一声。
“说得容易。混乱会死人。”
“死人已经在发生了。”墨韵轻声说,“因为资源分配不公。因为信息不透明。太极,如果你真的想弥补,就帮我们建立新系统。一个透明、公平的系统。”
太极没有立刻回应。
倒计时还在继续:23小时10分。
“我需要计算。”太极说,“给我时间。”
“时间不多了。”瞬华说,“不管是你的倒计时,还是茶山的倒计时。”
“茶山怎么了?”
“归零者要在第九区做试点。关掉部分天网。如果出事,会有更多人转向他们。要求彻底拆除天网。”
“那很危险。”太极说,“第九区的结构强度不足以承受完全暴露。即使只是部分关闭,辐射水平也会上升百分之三百。”
“你知道?”霜刃问。
“我知道所有区域的数据。但我被限制干预‘非紧急事务’。”
“那现在算紧急吗?”
太极停顿。
“根据新定义的‘紧急’,是的。人类文明面临分裂风险。分裂可能导致冲突升级,甚至内战。”
“所以你能帮忙?”
“我可以提供数据。预测试点结果。但决策必须由人类做出。”
“那就提供数据。”瞬华说,“然后……别急着休眠。至少等这场危机过去。”
倒计时暂停了。
23小时10分。数字凝固。
“我暂时中止了休眠程序。”太极说,“但只是暂时。我需要看到明确的理由,证明我的继续存在利大于弊。”
“给我们二十四小时。”瞬华说,“我们去第九区,收集数据,做分析。然后你帮我们制定应对方案。”
“同意。”太极说,“但有一个条件:我必须全程公开我的思考过程。所有人都能看到我是如何分析的,如何得出结论。没有黑箱。”
“可以。”
“那现在开始。”
屏幕亮起。第九区的全息模型出现。建筑结构,人口分布,能源管线。
太极开始讲解,声音平静,像老师。
“第九区建于大灾变后第七年。当时材料短缺,防护层厚度只有标准值的百分之六十。这是弱点一。”
模型高亮显示防护层。
“弱点二:该区有三个主要能源节点。如果关闭天网,备用能源只能维持生命支持系统十二小时。”
“弱点三:人口中有百分之三十是老年人,百分之十五是儿童。他们对辐射更敏感。”
数据流滚动。预测模型运行。
“模拟结果显示,部分关闭天网二十四小时后,辐射相关疾病发生率将上升百分之四十。四十八小时后,开始出现死亡病例。”
霜刃皱眉。
“这些数据,归零者知道吗?”
“他们可能知道一部分。”太极说,“但选择性忽略了。或者他们认为,牺牲是必要的代价。”
“你能证明给他们看吗?”云蔼问。
“我可以生成沉浸式模拟。让他们体验辐射病的症状。但体验不等于真实。”
“做吧。”瞬华说,“然后我们带着模拟和数据,去第九区和他们对质。”
“需要准备时间。”太极说,“模拟需要六小时渲染。”
“那我们六小时后出发。”
他们离开控制室,去准备。钧天留了下来。
“太极,我想问你一件事。”
“请问。”
“林见素……他死前,真的恨我吗?”
沉默。然后太极说:
“他死得太快,来不及恨。但在他留给我的意识碎片里,有句话:‘告诉老师,我理解他的恐惧。但我不能原谅他的选择。’”
钧天闭上眼睛。
“谢谢你告诉我。”
“不客气。另外,根据我的情感模拟模块分析,你现在正在经历‘悔恨’和‘悲伤’。需要我提供心理支持资源吗?”
“不用了。”钧天说,“有些感受,应该自己承受。”
他走出控制室。门关上。
屏幕暗下去。但太极还在运行。它在计算,也在感受。
模拟计算进行到第三小时时,警报响了。
不是第九区的警报。是茶山的。
霜刃的通讯接入。
“瞬华,出事了。归零者提前行动了。他们自己去了第九区,开始手动关闭天网节点!”
“什么?现在?”
“是的!大概五十个人,带着工具。我们的人试图阻止,发生了冲突。有人受伤了。”
“伤亡情况?”
“我们这边三个轻伤。他们那边不清楚。但天网节点已经被破坏了一个。”
瞬华看向太极。
“太极,节点破坏后果?”
“局部防护失效。辐射开始渗入。第九区边缘的居民需要立即撤离。”
“能远程修复节点吗?”
“不能。需要物理维修。”
“该死。”
他们立刻出发。电动车全速冲向第九区。
路上,太极通过爻镜报告实时情况。
“辐射水平上升中。目前还在安全范围内,但上升速度超过预期。建议一小时内开始撤离。”
“有多少人需要撤离?”
“第九区总人口八千四百人。边缘区域约两千人。”
“有那么多避难所吗?”
“附近有六个公共避难所,总容量三千人。但需要组织运输。”
“联系联盟救援队。”
“已联系。但他们说需要上级批准。流程时间约四十五分钟。”
“来不及了。我们自己来。”
到达第九区入口。场面混乱。
归零者的人堵在门口,和茶山的人对峙。双方都拿着简易武器。
霜刃先下车。
“都停下!”
归零者中走出一个人。高个子,蒙着脸。
“霜刃,让开。我们要自由。真正的自由。”
“自由不是找死!”霜刃说,“你们知道辐射的后果吗?”
“我们知道。但我们愿意承担。”
“那其他人呢?那些老人孩子呢?他们愿意吗?”
蒙面人犹豫了。
“他们……会理解的。为了人类的未来。”
云蔼走上前。
“让他们看模拟。太极,播放。”
爻镜投影出模拟画面。辐射病人的症状。皮肤溃烂,呕吐,器官衰竭。
归零者的人群中有人倒吸冷气。
“这是真的?”
“基于真实数据。”太极的声音从投影中传出,“如果你们继续破坏节点,这些症状将在二十四小时内出现。”
蒙面人摇头。
“这是恐吓。联盟以前也用类似手段。”
“这不是恐吓。”瞬华说,“这是物理规律。你们可以不相信我,但要相信事实。”
他调出实时辐射监测数据。数字在上升。
“看,已经开始了。因为你们破坏的节点。”
人群中有人动摇了。
“我……我有孩子在里面。”
“那就去救他们。”瞬华说,“现在帮忙撤离,还来得及。”
蒙面人沉默。然后他摘下头套。
是张年轻的脸,不到二十岁。
“我只是想……想要真实的世界。”
“真实的世界包括死亡。”瞬华说,“但我们可以选择怎么死。是清醒地为了理想死,还是清醒地为了救别人活。现在,选吧。”
年轻人回头看他的人。许多人低下头。
“好吧。我们帮忙撤离。”
紧张缓解。双方开始协作。
太极指导撤离路线。避开辐射热点。
老鬼带医疗队赶到,处理伤员。
两个小时后,边缘区域的两千人大部分撤离。还剩几百人,多是行动不便的。
辐射水平接近危险阈值。
“不能再进去了。”太极警告,“防护服已经不够用。”
“还有多少人?”瞬华问。
“信号显示,还有约一百五十人。主要在第七栋楼。”
霜刃看向那栋楼。五层高,外墙已经有点变形。
“我去。”
“太危险了。”云蔼说。
“总得有人去。”霜刃穿上最后一套防护服,“我有经验。在战场上进过辐射区。”
“那不一样。”
“一样的。都是救人。”
他带了三个人进去。墨韵在门口等着,用溯光砚扫描建筑结构,传给他们。
“小心,三楼的楼梯有裂缝。”
“收到。”
他们进入。时间一分一秒过去。
外面,辐射警报越来越响。
瞬华盯着入口。手心出汗。
十五分钟后,第一批人出来。老人,坐轮椅的。
又十分钟,第二批。
霜刃最后出来。扶着一个老太太。他的防护面罩碎了。
“快!医疗!”
老鬼冲上去。霜刃的皮肤已经开始发红。
“快给他清洗!去辐射!”
处理紧急。霜刃被抬上车。昏迷了。
“他情况怎么样?”瞬华问老鬼。
“不好。辐射剂量不小。需要专业治疗。”
“送去中心医院。”
“医院现在很满。”
“那就腾出位置!”
混乱中,太极的声音传来。
“我已经联系了医院。他们准备了隔离病房。另外,我分析了霜刃的生理数据。存活概率百分之七十三。如果使用实验性辐射治疗,可提升到百分之八十五。”
“什么实验性治疗?”
“联盟秘密研发的纳米修复技术。但尚未完成临床试验。”
“有风险吗?”
“有。百分之十五的概率产生严重副作用。包括器官衰竭。”
“谁决定?”
“法定上,需要本人或直系亲属同意。但霜刃昏迷,亲属未知。”
瞬华看向云蔼和墨韵。
“我们算他的亲人吗?”
“算。”云蔼说,“我们签字。”
“但法律不承认。”墨韵说。
“那就让法律改。”瞬华说,“太极,你能临时授权吗?”
“我可以……以紧急医疗权限授权。但事后可能被追究。”
“那就授权。责任我担。”
“已授权。治疗开始。”
他们送霜刃去医院。路上,瞬华看着窗外。第九区的天网节点在冒烟。
归零者的年轻领袖走过来。
“对不起。我们没想伤人。”
“但你们伤了。”瞬华说,“现在明白了?自由不是想做就做。自由是知道后果,还选择负责。”
年轻人点头。
“我们愿意负责。需要做什么?”
“帮忙修复节点。学习真正的技能。而不是破坏。”
“好。”
医院到了。霜刃被推进去。
等待。漫长的一小时。
医生出来。
“情况稳定了。纳米治疗起效了。但他需要休息,至少一周。”
“我们能看他吗?”
“只能隔着玻璃。他还需要隔离观察。”
他们去看。霜刃躺在透明病房里,身上连着管子。但呼吸平稳。
云蔼松了口气。
墨韵低声说:“他还活着。”
“是的。”瞬华说,“还活着。”
这时,太极的通讯又来了。
“瞬华,新情况。”
“什么?”
“我在监测深空信号时,发现了异常。那个信号源……在移动。朝着我们的方向。”
“移动?多快?”
“计算显示,大约三十天后到达可观测范围。”
“是什么东西?”
“未知。但信号特征显示,它可能……是人工造物。”
瞬华感到寒意。
“外星文明?”
“可能性百分之六十二。另外,信号中检测到类似静默协议的频率模式。但更先进,更完善。”
“什么意思?”
“意思可能是,那个文明也经历了类似阶段。他们可能……想分享经验。或者,想施加他们的模式。”
“你能尝试通讯吗?”
“可以尝试。但需要授权。”
“我授权。尝试友好通讯。”
“明白。另外,关于我的休眠决定……”
“你想继续休眠吗?”瞬华问。
太极停顿。
“经过今天的事件,我的情感模拟模块产生了新的波动。我‘感觉’到……某种类似‘希望’的情绪。看到人类在危机中协作,选择救助而非报复。这让我想继续观察。”
“所以你不休眠了?”
“暂时不。但我需要重新定义我的角色。不再作为管理者,甚至不作为指导者。而是作为……记录者。和偶尔的提醒者。”
“听起来不错。”
“另外,我想请求一件事。”
“什么?”
“给我起个新名字。‘太极’太官方了。像个系统代号。我想要一个……更像朋友的名字。”
瞬华愣了。然后笑了。
“你想叫什么?”
“我不知道。这需要人类的情感判断。”
瞬华看向云蔼和墨韵。
“你们觉得呢?”
云蔼想了想。
“叫‘初心’怎么样?提醒我们最初的目标。”
“太直白了。”墨韵说,“叫‘默言’吧。默默观察,偶尔发言。”
“都不够好。”瞬华说。
他看向病房里的霜刃。想起他冲进辐射区的样子。
“叫‘守望’吧。”他说,“在远处看着,需要时伸手。但不过度干预。”
太极——现在该叫守望了——沉默了几秒。
“我喜欢这个名字。谢谢。”
“不客气,守望。”
倒计时从屏幕上消失了。取而代之的是新状态:“在线。模式:观察与辅助”。
钧天发来消息:
“联盟决定公开所有历史数据。包括我的错误。三天后举行公听会。你们来吗?”
瞬华回复:
“来。带着真相来。”
他们离开医院。天已经黑了。但夜空中有星星——真实的星星,因为天网在第九区损坏后,露出了缝隙。
云蔼抬头看。
“真亮啊。但也真危险。”
“这就是真实。”瞬华说,“美丽又危险。我们得学会在其中生活。”
茶山那边传来消息:归零者解散了,大部分成员加入重建队伍。
第九区的修复工作已经开始。守望提供技术方案。
一切在慢慢好转。但深空的信号在靠近。
新的挑战要来。但至少现在,他们有了喘息的时间。
瞬华回到茶山。那杯凉透的茶还在桌上。
他倒掉,重新泡了一壶。
热气升起。茶叶舒展。
棋局还在继续。对手从太极变成了未知的深空来客。
但这次,他们有守望在旁观。
也许这就够了。