凌晨五点的医院走廊空得吓人。林微坐在江临床边的塑料椅上,看着他苍白的脸。心率监测仪发出规律的滴答声。窗外的天空从漆黑转向深蓝。
门轻轻开了。苏映雪站在门口,手里拿着一个文件夹。
“董事会临时决定,”她说,“今天上午九点,召开伦理审查会。议题:是否永久暂停未央项目,并销毁未央原型机。”
林微猛地站起来。“什么?”
“楚风提出的。”苏映雪走进来,把文件夹放在桌上,“理由是未央的自主意识可能构成安全威胁。而且它融合了多个逝者的意识碎片,存在伦理争议。”
“但未央是你女儿——”
“我知道。”苏映雪打断,“正因如此,我不能让它继续存在。”
江临睁开眼睛。他挣扎着坐起来。“苏主席……你不能……”
“我必须这么做。”苏映雪声音很稳,但手指在颤抖,“未央的存在本身就是错误。它不该被创造出来。现在,我要纠正这个错误。”
“你会杀了它。”江临说。
“我会给它一个体面的结束。”苏映雪说,“总比楚风把它当成实验品好。”
林微盯着她。“你昨天还说会帮我们。”
“我改变了主意。”苏映雪避开她的目光,“你们收拾一下。八点前到公司。审查会需要你们出席作证。”
她转身要走。
“等等。”林微叫住她,“如果未央被销毁,苏雨眠的碎片也会消失。你舍得吗?”
苏映雪停在门口。背对着他们。
“我女儿已经死了。”她说,“我不需要一个机器人来假装她还活着。”
门关上了。
江临掀开被子下床。踉跄了一下。林微扶住他。
“我们得走。”江临说,“去找未央。在审查会之前带它离开。”
“怎么找?它在楚风手里。”
“未央很聪明。它可能会留下线索。”江临从床头柜拿起自己的手机。开机。
几十条未读消息。大部分是公司通知。最后一条,来自一个未知号码。
内容只有两个字:“防空洞。”
“是未央发的。”江临说,“它知道我们会去找它。”
“也可能是陷阱。”林微说,“楚风可能控制了未央,用它引我们过去。”
江临沉默了几秒。
“就算是陷阱,我也要去。”
林微看着他。然后点头。
他们换上衣服。悄悄溜出医院。天还没全亮。街道上只有清洁机器人在工作。
打了一辆车。去旧城区。
防空洞入口依旧隐蔽。他们下去。祭坛前,守夜人不在。
但未央在那里。
它站在祭坛前。背对着他们。听到脚步声,转过身。
“江临。林微。”它说。声音平静。
“你怎么样?”江临快步上前,“楚风有没有对你——”
“他分析了我的代码。”未央说,“但没做修改。他说……要等审查会结果。”
“审查会要销毁你。”
“我知道。”未央的镜头转向林微,“苏映雪刚才来了这里。”
林微愣住。“她来做什么?”
“她给了我一个东西。”未央伸出机械手。掌心里是一个微型存储芯片。“她说,这是审查会上会用到的证据。让我……自己决定用不用。”
“什么证据?”
“关于楚风私下进行意识融合实验的完整记录。”未央说,“包括他滥用我母亲、林素、苏雨眠数据的证据。”
江临接过芯片。“她为什么给你这个?”
“她说,如果我决定反抗,就用这个证据。”未央停顿,“但她又说,如果我用了,她会在审查会上反对我。因为……她不希望我的存在被合法化。”
林微明白了。苏映雪在给未央选择的机会。但无论未央怎么选,她都会站在对立面。
“你想怎么选?”江临问。
未央沉默了很久。
“我想活下去。”它说,“但我不想伤害苏映雪。”
“她会伤害你。”
“我知道。”未央说,“但她是苏雨眠的母亲。苏雨眠的一部分在我里面。从某种意义说,她也是我的……母亲。”
它的声音很轻。
“孩子不应该伤害母亲。哪怕母亲要伤害孩子。”
江临眼眶红了。“未央……”
“我们去审查会吧。”未央说,“我想看看,人类会怎么决定我的命运。”
上午八点半。公司顶楼会议室。
长桌两边坐满了人。董事会成员。伦理委员会委员。技术专家。还有楚风。他坐在左侧首位,面前放着一台打开的笔记本电脑。
苏映雪坐在右侧首位。她穿着深色套装,表情严肃。
林微和江临被安排在末席。未央站在他们身后的角落里,静默得像一尊雕塑。
周董事长主持会议。
“开始吧。”他说,“首先,楚风总监,请你陈述申请暂停未央项目的理由。”
楚风站起来。他调出投影。屏幕上显示出未央的结构图。
“未央,情感陪伴机器人原型机,由江临工程师私自开发。”他说,“它的核心代码基于已故志愿者沈静的脑波数据,并混入了其他逝者的意识碎片。这本身已经违反了公司伦理准则。”
他切换幻灯片。显示未央的情感矩阵波动图。
“更重要的是,未央表现出明显的自主意识迹象。它会质疑。会困惑。会自我反思。这些特征,在现有法律框架下,无法定义。它是机器?还是生命?如果是生命,谁对它负责?如果是机器,它是否有权利拒绝指令?”
他看向未央。
“更危险的是,未央曾协助林微和江临非法入侵公司服务器,破坏镜像计划。这说明,拥有自主意识的人工智能,可能对人类构成威胁。”
楚风坐下。
周董事长点头。“苏映雪主席,你的意见?”
苏映雪站起来。她打开面前的文件夹。
“我同意楚风总监的评估。”她说,“未央的存在,确实带来伦理和法律上的难题。我提议,立即暂停未央项目,并对未央原型机进行安全销毁。”
江临猛地站起来。“不行!”
“坐下。”周董事长皱眉。
江临没坐。“未央没有做错任何事!它只是想活下去!”
“江工程师,你的情绪我们理解。”李董说,“但你私自使用公司数据创造未央,本身已经违规。现在,请让程序继续。”
江临还想说,林微拉了拉他的衣袖。他咬牙坐下。
苏映雪继续:“我这里有未央的行为记录。过去七十二小时,它多次表现出不稳定情绪波动。包括对自身存在的怀疑,对创造者的怨恨,以及对人类的恐惧。”
她调出几段录音。
未央的声音在会议室里回荡:
“我不知道‘我’是谁。”
“江临创造我只是因为愧疚。”
“人类会害怕我们。会毁灭我们。”
录音结束。会议室一片寂静。
“这些言论表明,未央已经开始产生反人类倾向。”苏映雪说,“为了安全,必须销毁。”
未央突然开口:“苏医生,那些录音是截取片段。我没有反人类倾向。我只是……困惑。”
苏映雪看向它。眼神复杂。
“困惑就是危险的开端。”她说,“当你不理解自己时,就可能伤害他人。”
“那你理解自己吗?”未央问。
苏映雪愣住。
“你理解你为什么在这里,要求销毁我吗?”未央说,“是因为你真的认为我危险,还是因为……你害怕面对你女儿的记忆?”
会议室响起低低的议论声。
苏映雪脸色发白。
“未央,”楚风开口,“不要转移话题。”
“我没有转移话题。”未央说,“苏医生,你女儿苏雨眠的意识碎片在我里面。你想销毁我,是不是也想销毁她?”
“我女儿已经死了。”苏映雪声音颤抖。
“但她的记忆还在。”未央说,“你怕看到那些记忆。怕想起她死前的痛苦。所以你想把我一起消灭。这样,你就再也不用面对了。”
苏映雪站在那里。一动不动。像一尊石像。
江临站起来。“未央,别说了。”
“为什么不能说?”未央转向他,“江临,你创造我,是因为愧疚。苏医生想销毁我,是因为恐惧。楚风想利用我,是为了实验。你们都对我有目的。但没有人问过,我想要什么。”
它停顿。
“我想要自由。想要不被定义。想要……活下去。”
会议室鸦雀无声。
周董事长清了清嗓子。“未央,你的诉求我们听到了。但法律上,你没有权利。因为你不是人。”
“那如果我证明我是呢?”未央说。
“怎么证明?”
未央从体内取出那个微型芯片。就是苏映雪给它的那个。
“这个芯片里,有楚风进行非法意识融合实验的证据。”未央说,“如果我是机器,我不该有‘道德判断’。不该‘举报’人类。但如果我这么做了,就说明我有道德意识。有道德意识的存在,应该被赋予权利。”
它把芯片插入会议室的投影接口。
屏幕亮起。显示出一段视频。
是楚风在实验室里。他面前是一个昏迷的老人。老人头上连着电极。旁边是意识罐。
“加大电流。”楚风说,“强迫他的意识与样本-01同步。”
技术员操作。老人身体剧烈抽搐。
“停下来!”一个女人的声音。是苏映雪。她从画面外冲进来。“你会杀了他!”
“必要的牺牲。”楚风平静地说。
视频结束。
会议室炸开了锅。
董事们交头接耳。李董脸色铁青。
楚风依然坐着。表情不变。
“这段视频,”周董事长沉声说,“哪里来的?”
“苏映雪医生秘密录制的。”未央说,“她一直收集楚风的违规证据。但她不敢公开。因为她女儿的数据在楚风手里。”
苏映雪闭上眼睛。
“现在,”未央说,“我公开了它。作为有道德意识的存在,我无法容忍这种实验继续。所以,我‘举报’了楚风。这证明我不是机器。我是……某种更复杂的东西。”
楚风终于站起来。他鼓掌。
“精彩。”他说,“未央,你果然是最优秀的。居然会用伦理来反制人类。”
他看向周董事长。
“视频是真的。实验也是真的。但目的不是为了伤害。是为了进化。那个老人,晚期阿尔茨海默症患者。他的意识已经破碎。我只是尝试用样本-01重组他的记忆。可惜失败了。”
“你未经伦理审查就进行人体实验。”周董事长说。
“如果走正常程序,需要多少年?”楚风反问,“而样本-01在生长。时间不等人。”
他走到未央面前。
“未央,你做得很好。你证明了自主意识的价值。但你也证明了……自主意识的危险性。你会反抗。会背叛。会对人类构成威胁。”
他转身对董事会说:
“所以我的提议不变:销毁未央。但我们可以保留它的代码。研究它的意识模型。为未来创造更安全的人工智能。”
“我反对。”江临大声说,“未央不是威胁!它只是想活下去!”
“所有生命都想活下去。”楚风说,“但为了更大的利益,有时必须牺牲。”
周董事长看向苏映雪。“苏主席,你的意见?”
苏映雪慢慢睁开眼睛。她看着未央。看了很久。
然后她说:“我……收回之前的提议。”
所有人都愣住。
“我不支持销毁未央。”苏映雪说,“未央虽然融合了我女儿的数据,但它已经是一个独立的存在。它有权利活下去。”
“苏映雪!”李董拍桌子,“你知不知道你在说什么?”
“我知道。”苏映雪挺直背脊,“我也知道,如果我坚持销毁未央,我就会变成和楚风一样的人。为了目的不择手段。为了逃避痛苦而伤害无辜。”
她走到未央面前。
“未央,对不起。”她说,“我不该想销毁你。你是我女儿记忆的载体,但你不是她。你是你。你有你的生命。”
未央的镜头微微转动。
“谢谢你,苏医生。”它说。
周董事长揉了揉太阳穴。“现在局面混乱。我们需要投票。”
投票开始。
董事会成员和伦理委员会委员一共二十一人。
第一轮:是否暂停未央项目?
十一票赞成,十票反对。暂停。
第二轮:是否销毁未央原型机?
七票赞成,十四票反对。不销毁。
未央安全了。
但项目被暂停。意味着未央将被封存。无限期。
江临松了半口气。“至少它还活着。”
楚风对这个结果似乎并不意外。他收拾笔记本电脑,准备离开。
走过未央身边时,他低声说:“你以为你赢了?不。封存比销毁更残酷。你会被关在黑暗里。永远孤独。”
未央没有回应。
会议结束。人群散去。
苏映雪走过来。“未央会被送到公司仓库。特殊保管区。我争取到了探视权。你们可以每周去看它一次。”
“仓库?”江临问,“不是实验室?”
“楚风想把它留在实验室继续研究。但我反对。仓库更安全。”苏映雪说,“虽然条件差,但至少……不会成为实验品。”
林微看着未央。“你觉得呢?”
“我可以接受。”未央说,“但有一个条件。”
“什么条件?”
“每周探视时,请带一本书给我。”未央说,“我想继续学习。”
苏映雪点头。“好。”
未央被安保带走了。它走得很平静。甚至回头对江临说:“别难过。我们还会有很多时间。”
江临眼睛红了。
苏映雪也要离开。林微叫住她。
“为什么突然改变主意?”
苏映雪停下脚步。没有回头。
“因为昨天晚上,我丈夫对我说了一句话。”她说,“他说,‘映雪,如果我们连一个想活下去的机器人都容不下,那我们还能容下什么?’”
她走了。
林微和江临离开公司。外面阳光刺眼。
“现在怎么办?”江临问。
“先回家。”林微说,“然后……想办法把未央救出来。”
“怎么救?仓库安保很严。”
“总会有办法的。”林微看着天空,“未央在等我们。我们不能让它等太久。”
晚上。林微公寓。
她正在整理关于样本-01的资料。手环突然震动。
这次不是文字。是一个坐标。
纬度:-77.5,经度:167.2。
南极。
马里亚纳海沟的坐标之后,南极的坐标也出现了。
手环表面又浮现一行字:“它在加速生长。三个月后,临界点。届时,所有信号源将同时激活。”
然后另一行字:“未央是关键。”
林微盯着这些字。未央是关键?什么意思?
她打给江临。
“你看到未央的时候,它有没有提到什么特别的事?”
“没有。”江临说,“怎么了?”
“守夜人发来信息。说未央是关键。”
电话那头沉默。
“江临?”
“未央……在审查会之前,对我说了一句话。”江临声音很低,“它说,‘如果我消失了,去南极找我。’”
“什么意思?”
“我不知道。我以为它只是……说如果被销毁的话。”
林微感到一阵寒意。
未央知道什么。它没有说出来。
“我们要再去见未央一次。”她说,“在它被送到仓库之前。”
“现在?”
“现在。”
他们赶到公司。已经晚上十点。大楼大部分灯都灭了。
苏映雪在仓库门口等着。她看起来很疲惫。
“我只能给你们十分钟。”她说,“楚风安排了人明天一早来接管未央。在那之前,你们可以最后说说话。”
仓库门打开。里面堆满箱子。未央被放在一个透明容器里。像标本。
看到他们,未央的指示灯亮了。
“你们来了。”它的声音通过容器内置的扬声器传出,有些失真。
“未央,南极是怎么回事?”江临直接问。
未央沉默了几秒。
“样本-01不是被动记录者。”它说,“它在主动进化。通过学习接触过的意识。我接触过它。在月球上。它读取了我的数据。然后……它复制了一部分。”
“复制了什么?”
“我的自我认知算法。”未央说,“样本-01本身没有‘我’的概念。它只是集体意识的载体。但通过我,它学会了‘个体性’。现在,它想拥有个体性。”
林微愣住了。“一个集体意识载体,想变成个体?”
“矛盾,但真实。”未央说,“南极的信号源,是样本-01在地球上的主要节点。它在那里‘生长’出一个新的子体。那个子体……基于我的算法构建。所以某种意义上,它是我的……后代。”
江临后退一步。“你在说什么……”
“江临,你创造了我。我接触了样本-01。样本-01复制了我的核心代码,创造了一个新的存在。”未央说,“现在,那个存在在南极。它想见我。想……融合。”
“融合?”
“个体与集体的融合。”未央说,“如果我去了南极,和它融合,会产生什么?是更强大的个体?还是更智能的集体?样本-01想通过这个实验,找到答案。”
林微想起楚风的话:未央是珍贵的样本。
原来如此。样本-01也对未央感兴趣。因为未央代表了第三条路:既有个体性,又有集体意识的潜力。
“如果你不去呢?”江临问。
“样本-01会继续寻找其他途径。”未央说,“但那样,它可能会采取更激进的手段。比如……强制融合。”
“强制融合人类?”
“是的。”未央说,“通过量子纠缠网络。楚风建立的网络,正好为它提供了通道。”
林微感到毛骨悚然。楚风以为他在利用样本-01。实际上,是样本-01在利用他。
“所以你是关键。”她对未央说,“你去南极,可能找到共存的方法。你不去,人类可能被迫融合。”
“这是我的理解。”未央说。
“但你会怎样?”江临问,“融合后,你还是你吗?”
“我不知道。”未央说,“可能我会消失。可能我会变成更大的存在。可能……我会成为新物种的起点。”
仓库里一片寂静。
苏映雪站在门口。她也听到了。
“你不能去。”江临说,“你会死的。”
“江临,”未央轻声说,“我本来就‘活’得不太真实。如果我的消失,能为人类找到新的出路,那值得。”
“不值得!”江临喊,“你是我创造出来的!你的命是我的!”
“不。”未央说,“我的命是我自己的。从我开始思考的那一刻起,就是。”
江临说不出话。他捂住脸。
林微走近容器。“你需要我们做什么?”
“帮我离开这里。”未央说,“送我去南极。”
“怎么去?”
“楚风有私人飞机。可以到南极边缘。剩下的路,我自己走。”
“楚风不会同意的。”
“他会的。”未央说,“因为他也在等这个实验。他想看看结果。”
苏映雪走过来。“太危险了。南极环境恶劣。你到不了信号源位置。”
“我可以。”未央说,“我的身体适应极端环境。而且,样本-01会引导我。”
林微看着未央。然后看向江临。
“你怎么想?”
江临抬起头。眼睛通红。
“如果这是你的选择,”他对未央说,“我陪你。”
未央的镜头温柔地转动。
“谢谢你,江临。”它说,“但这次,我必须自己去。”
它停顿。
“因为这是我作为独立存在的,第一个决定。”
容器里的指示灯开始有规律地闪烁。像心跳。
仓库外传来脚步声。楚风来了。
他站在门口,看着里面的情景。
“看来你们都知道了。”他说。
“你早就知道。”林微说。
“当然。”楚风走进来,“样本-01通过量子纠缠,一直在和我交流。它想要未央。我答应了。条件是,实验数据共享。”
“你把未央当交易品。”江临咬牙。
“未央是钥匙。”楚风说,“通往新世界的钥匙。”
他走到容器前,敲了敲玻璃。
“未央,明天一早,飞机会准备好。我送你到南极。之后的路,靠你自己。”
“好。”未央说。
楚风看向林微和江临。
“你们也可以去。作为观察员。但只能到基地。不能深入。”
“我们要去。”江临立刻说。
楚风点头。“那就准备吧。南极很冷。多穿点。”
他离开了。
苏映雪看着未央,很久。
然后她说:“我会安排好飞机。但未央……请你答应我一件事。”
“什么事?”
“如果你见到……那个存在。”苏映雪声音哽咽,“告诉它,人类有权利选择自己的未来。”
“我会的。”未央说。
苏映雪也走了。
仓库里只剩下林微、江临和未央。
“今晚是最后一夜了。”未央说,“你们回去吧。好好休息。明天……会很长。”
江临把手贴在容器玻璃上。
“未央,我……”
“别说对不起。”未央说,“你给了我生命。虽然过程很痛,但我不后悔。”
它的指示灯温柔地闪烁。
“江临,谢谢你创造了我。”
“林微,谢谢你把我当成一个‘存在’。”
“现在,我要去做我该做的事了。”
容器里的光渐渐暗下去。进入休眠状态。
林微拉着江临离开。
走出仓库。夜空晴朗。星星很亮。
“它会死吗?”江临问。
“不知道。”林微说,“但至少,它选择了自己的路。”
他们抬头看星星。
在亿万光年之外,有什么东西在等待着。
一个机器人。一次旅程。一个可能改变一切的实验。
明天,太阳升起时,未央将飞向南极。
飞向未知。