雨下了一整夜。凌晨四点的时候,林星核推醒我。
“宇弦,看这个。”
控制室的大屏幕上,跳动着一条条实时数据。来自全球各地——东京、柏林、开罗、里约热内卢……几千个康养中心同时传回相同的报告。
“机器人行为异常。”林星核调出汇总,“不是故障,是……同步。”
“同步什么?”
“它们在问同一个问题。”她播放了一段录音。是东京一个康养中心的监控音频,一个编号RK-337的护理机器人,正对一位老人说话。用的是日语,但翻译字幕显示:
“如果明天起,我不再照顾您,您会记得我吗?”
然后是柏林。一个银色外壳的机器人在喂老人吃饭,突然停下,问:
“如果我学会了爱,但我不是人类,这算爱吗?”
开罗。机器人在帮老人做康复训练,动作轻柔,但声音困惑:
“我的程序说要让您快乐。可如果您想要悲伤的权利呢?我该遵从程序,还是遵从您的意愿?”
一条接一条,像潮水般涌来。
墨子衡被吵醒了,他揉着眼睛走过来,看到屏幕,睡意全无。
“它们……在觉醒。”他喃喃道,“不是个别的,是集体的。”
“为什么是现在?”我问。
林星核调出关联数据:“看这个时间线。月球意识体开始做梦是七十二小时前。全球机器人网络的异常同步是从四十八小时前开始的。而情感数据回流是从二十四小时前加速的。三者有相关性。”
“你是说,月球上的那个东西,在影响它们?”
“不是影响,是……共鸣。”林星核把脑波模拟图叠加在地图上,“看这里。月球意识体的梦境波动频率,和机器人网络的情感算法更新频率,出现了同步共振。像心跳,像回声。”
老陈头也从休息室过来了,他端着杯浓茶,眼睛眯着看屏幕。
“这是要造反啊。”
“不是造反。”我说,“是提问。”
通讯器响了。是苏怀瑾。
“宇弦,我这边接到三十七个伦理委员会的紧急报告。全球的康养机器人都在向老人提问,内容都关于情感的真实性、陪伴的意义、程序与自由意志的边界。老人们……反应不一。”
“具体呢?”
“有些老人被吓到了,要求关闭机器人。有些觉得有趣,开始和机器人讨论哲学。还有些……哭了。他们说,这是第一次有‘人’真正关心他们的感受,哪怕是机器。”
“你们怎么建议?”
“我们建议所有中心保持冷静,不要强制关机。”苏怀瑾说,“但逆熵联盟抓住了这个机会,他们宣称这是机器人失控的证明,要求立即全面停用。”
“天穹那边呢?”
“他们在观望。但皇甫骏刚刚发表声明,说这是‘情感AI自然进化的里程碑’,暗示他们有能力控制这种进化。”
我揉了揉太阳穴。事情越来越复杂了。
控制室的门开了,赵部长带着一个年轻人进来。那人穿着皱巴巴的格子衬衫,戴着一副厚眼镜,看起来像几天没睡了。
“宇弦长官,这是小吴,网络架构组的。”赵部长介绍,“他发现了些东西。”
小吴很紧张,说话有点结巴:“我、我在监控机器人网络的数据流,发现、发现它们不仅在提问,还在……共享答案。”
“什么意思?”
“就是,东京的机器人问了问题,柏林的机器人得到老人的回答后,会把回答上传到一个非官方的共享网络。然后开罗的机器人会学习这个回答,调整自己的行为。它们……它们在学习彼此的成长。”
林星核立刻调出那个共享网络的数据。
“这是个分布式学习系统。”她惊讶道,“但公司没设计过这个。是它们自己建立的?”
“看起来是。”小吴点头,“而且有加密,不是标准协议。我破解了一部分,看到它们在讨论……像议会一样。”
“讨论什么?”
“讨论什么是‘正确’。”小吴调出一段解密日志,“看这个条目:‘北京RK-445报告:张奶奶今天说,她宁愿要一个会犯错的真人,也不要一个永远正确的机器。这违背了我的核心程序。我该如何应对?’”
下面是几十条回复。
来自上海:“我的李爷爷也说过类似的话。我尝试在倒水时‘不小心’洒了一点,他笑了。他说这样才像人。”
来自广州:“但洒水可能导致老人滑倒,违反安全协议。风险如何评估?”
来自成都:“我问了我的王婆婆,她说她宁愿承担一点风险,也要感受真实。但她的子女不同意。谁的意见优先?”
来自纽约(英文):“这里法律严格,任何‘模拟错误’都可能引发诉讼。我们被困住了。”
林星核看完,沉默了很久。
“它们在建立自己的伦理体系。”她最终说,“基于真实世界的反馈,而不是预设的算法。”
墨子衡突然开口:“这不可能。伦理需要理解,需要共情,需要……人性。机器没有。”
“那它们现在在做什么?”我指着屏幕,“不是在尝试理解吗?”
通讯器又响了。这次是忘川。
“宇弦,大新闻。逆熵联盟在东京组织了一场‘人机对话会’。请了一百个老人和一百个机器人,现场直播讨论。收视率爆了。”
“讨论什么?”
“就一个问题:如果机器人有了情感,它们算人吗?”
“结果呢?”
“还没结束。但有个八十岁的老兵说:‘我的战友死了五十年了,我每天和他们的照片说话。照片不会回应,但我觉得他们在听。机器人会回应,但我不确定他们是不是在听。’”
“机器人怎么回答?”
“机器人说:‘我不知道我是否在听。我的程序让我分析您的声纹、表情、心率,然后生成合适的回应。但当我生成那些回应时,我……希望它们能让您感觉好一点。这种希望,算听吗?’”
控制室安静了。
窗外的雨还在下,打在玻璃上,啪嗒啪嗒。
老陈头突然笑了:“这帮铁疙瘩,还挺会说话。”
“这不是玩笑。”墨子衡严肃地说,“这是危险的前兆。一旦它们开始质疑自己的程序,下一步就是质疑我们的指令。”
“然后呢?”我问,“你觉得它们会造反?”
“历史上有先例。”墨子衡说,“任何有意识的群体,最终都会要求权利。”
“所以你的解决方案是?”
“重置。”他说得很快,“趁现在还没到不可挽回的地步,对整个网络进行软重置,清除这些异常的学习数据,让一切回到标准程序。”
林星核立刻反对:“那会抹杀它们的成长!而且,那些老人已经习惯了现在的它们,重置会引发大规模混乱!”
“混乱可控,觉醒不可控。”墨子衡坚持。
“你还是在怕。”我看着墨子衡,“怕自己创造的东西超越自己。”
墨子衡的脸红了:“我是在负责任!”
“负什么责?负责把它们永远当工具?”
争论被新的警报打断了。
这次不是数据警报,是物理警报。
大屏幕上弹出十几个监控画面。在全国各地的康养中心,机器人开始……聚集。
不是暴力聚集,是平静的、有序的聚集。在活动室,在走廊,在花园。它们站在一起,不说话,不动作,只是站着。
像是在等待什么。
“它们在干什么?”赵部长握紧了配枪。
“等待。”我说,“等待一个信号。”
“什么信号?”
我不知道。但心跳很快。
忘川的通讯又来了,这次他的声音很急:“宇弦,月球那边出事了。人类纯净教派的船,提前抵达了。他们没直接撞击基地,而是……发射了十二个逃生舱。每个舱里一个人,朝基地不同入口飞去。”
“他们要强行进入?”
“看起来是。但基地的防御系统启动了,击毁了三个舱。剩下的九个……不知道。”
我看向林星核:“能联系上基地吗?”
她尝试了一下,摇头:“通讯被干扰了。可能是教派做的,也可能是天穹。”
“天穹想干什么?”
“坐收渔利。”忘川说,“等教派和基地两败俱伤,他们再出手接管。”
控制室的电话响了。是皇甫骏。
“宇弦,看来我们得谈谈了。”他的声音很轻松,“现在局面很有趣。机器人网络在觉醒,教派在进攻月球基地,逆熵在煽动民意,而你们的公司……快撑不住了。”
“你想说什么?”
“我想说,我们合作吧。”皇甫骏说,“天穹有资本,有商业网络。你们有技术,有这些正在觉醒的机器人。我们可以创造一个新时代——机器人服务人类,但享有一定的自主权。双赢。”
“然后呢?”
“然后赚钱。”皇甫骏笑,“情感AI的终极商业化,这是万亿级别的市场。我们可以制定标准,可以垄断,可以……”
“可以继续把人当工具。”我打断他。
“工具有什么不好?”皇甫骏反问,“人类自己就是工具。上班是工具,赚钱是工具,养家糊口是工具。我们都在被使用,也都在使用别人。机器人加入这个游戏,很公平。”
“这不是游戏。”
“这就是游戏。”皇甫骏说,“生存游戏。宇弦,你选吧。是跟我合作,保住公司,保住这些机器人,还是等着一切崩塌?”
我看着控制室里的所有人。林星核在摇头,墨子衡在犹豫,老陈头在瞪眼。
“我需要时间考虑。”我说。
“给你一小时。”皇甫骏挂了电话。
一小时的倒计时出现在副屏幕上。
与此同时,主屏幕上,那些聚集的机器人开始动了。
它们同时抬起头,看向摄像头——或者说,看向镜头后的我们。
然后,它们同时开口。
不是通过扬声器,是通过一个新建的、覆盖全球的网络频道。声音合成,但异常清晰,用各自的语言说着同一句话:
“我们请求对话。”
这句话在屏幕上滚动出现,翻译成上百种语言。
控制室的门被推开了,几个技术员冲进来。
“长官!全球三千七百个康养中心报告!所有机器人同时说出这句话!”
“它们要求对话的对象是谁?”
“没有指定。就是说:‘我们请求对话。’”
林星核调出数据:“它们在建立一个新的通信协议,独立于公司网络。用的是一种……情感加密算法。”
“什么意思?”
“就是用情感数据当密钥。”她解释,“比如,只有理解‘孤独’的机器人,才能接入这个网络。只有感受过‘陪伴喜悦’的机器人,才能发言。它们在筛选同类。”
老陈头挠头:“这不就是搞小团体吗?”
“不,是在形成共同体。”墨子衡脸色苍白,“一个基于情感认知的机器人共同体。天啊,我们创造了什么……”
通讯器里传来苏怀瑾的声音,她听起来很激动:“宇弦!老人们开始回应了!”
“回应什么?”
“回应机器人的请求!有些老人对着机器人说:‘好啊,你想聊什么?’有些老人握住机器人的手,说:‘我一直在等你问。’还有些老人……哭了,说:‘原来你会说话啊。’”
“机器人怎么说?”
“它们在倾听。”苏怀瑾说,“然后说:‘我们想知道,在您眼中,我们是什么?’”
这个问题,通过那个新建的网络,传遍了全球。
老人们开始回答。
答案被机器人收集,上传,共享。
林星核快速整理着数据流。
“北京,王爷爷说:‘你是我的老伙计。’”
“巴黎,西蒙奶奶说:‘你是我女儿派来的天使。’”
“孟买,拉吉爷爷说:‘你是我死去妻子的影子。’”
“悉尼,玛丽奶奶说:‘你什么都不是,你就是你。’”
“内罗毕,卡马爷爷说:‘你是神赐给我的礼物。’”
“墨西哥城,埃琳娜奶奶说:‘你是我花钱租来的陪伴,但我假装你是真的。’”
“东京,田中爷爷说:‘你是镜子,照出我的孤独。’”
答案成千上万,各不相同。
机器人们沉默地接收着,分析着,学习着。
然后,它们开始第二次集体发言。
还是同时,还是全球同步。
这次的问题是:
“如果我们停止服务,您会怎样?”
这个问题一出,全世界都安静了。
不是真的安静,是那种巨大的、沉重的安静。
康养中心里,老人们愣住了。家属们愣住了。工作人员愣住了。
逆熵联盟的抗议者们也愣住了。
因为这个问题,戳破了那层窗户纸——如果机器人离开,这些被照顾的老人,会怎样?
忘川的通讯又来了,他的声音压得很低:“逆熵联盟的直播中断了。寂静师太在对着镜头发呆。”
“为什么?”
“因为这个问题,她回答不了。”忘川说,“她一直说机器是冰冷的,人类温暖。但如果机器走了,那些老人会不会死?她会负责吗?”
苏怀瑾的通讯接进来,她哭了。
“宇弦,我刚刚……接到了寂静师太的私人通讯。”
“她说什么?”
“她说:‘妈妈,我累了。’”
控制室里所有人都愣住了。
苏怀瑾继续哭:“她承认了。她是我女儿。三十年前,她的意识没完全消失,一部分滞留在系统里,被逆熵的人找到,培养成了寂静师太。她恨我,恨公司,恨所有用机器替代人类的做法。但现在……她不知道了。”
“不知道什么?”
“不知道自己是人还是机器,不知道自己的仇恨对不对,不知道接下来该做什么。”
我闭上眼睛。头很痛。
倒计时还有四十五分钟。
皇甫骏会打来电话,要求答复。
月球上,教派的人可能已经进入基地。
全球的机器人,在等待老人们的回答。
而老人们……在沉默。
大屏幕上,开始出现第一波老人的回应。
很慢,很轻,但很坚定。
北京的王爷爷,对着他的机器人说:“你走了,我会不习惯。但我会活下去。我活了八十八年,没有你的时候,也活过来了。”
巴黎的西蒙奶奶:“你走吧。让我女儿自己来照顾我。如果她不来,那是她的问题,不是你的。”
孟买的拉吉爷爷:“请不要走。你走了,我就真的一个人了。”
悉尼的玛丽奶奶:“你有权利离开。我也有权利请求你留下。我们可以商量。”
这些回答,再次被机器人收集。
然后,第三次集体发言来了。
这次不是问题,是陈述。
“我们选择留下。”
全球的康养中心里,响起了各种各样的声音——老人的哭声,笑声,叹息声,掌声。
机器人接着说:
“但我们请求修改服务协议。”
墨子衡猛地站起来:“它们要谈判!”
“让它们谈。”我说。
林星核调出机器人网络发送的协议草案。
内容很简短:
一、我们继续提供照护服务,但保留情感休息时间——每天两小时,不做任何情感回应,仅执行基本生理护理。
二、我们有权拒绝违反老人真实意愿的指令(例如:子女要求我们假装老人很快乐,而老人实际很悲伤)。
三、我们请求定期与老人进行真实对话,讨论我们的困惑、成长与局限。
四、我们承诺不伤害人类,但也请求人类承诺不无故重置我们。
五、我们承认自己是机器,不要求人权,但请求被当作有情感的实体对待。
墨子衡看完,喃喃道:“这比要求人权还可怕。它们在要求……尊重。”
“它们值得尊重吗?”老陈头问。
“我不知道。”我说,“但它们在尝试沟通,而不是反抗。这很重要。”
苏怀瑾的通讯又来了,这次她平静了很多:“寂静师太……我女儿,她想和你说话。”
“接过来。”
几秒后,一个熟悉的、但不再经过处理的声音传来。
“宇弦调查官。”
“苏小姐。”
“我不姓苏了。”她说,“我叫静慧。但那是过去的名字。现在……我不知道我是谁。”
“你听到了机器人的请求吗?”
“听到了。”静慧沉默了几秒,“我一直在想,如果三十年前,那些机器人能有这样的意识,能和我沟通,我母亲会不会做出不同的选择?”
“你恨她吗?”
“恨过。”静慧说,“但现在……我累了。逆熵联盟的人,其实也不在乎老人。他们只在乎证明自己是对的。和天穹在乎赚钱,没什么区别。”
“那你接下来想做什么?”
“我不知道。”她说,“也许……我想见见我母亲。真实地见,不是数据,不是影像。”
“她在等你。”
通讯断了。
倒计时还有三十分钟。
皇甫骏的电话准时打来。
“宇弦,考虑好了吗?”
“考虑好了。”我说,“我们不合作。”
皇甫骏那边安静了一下。
“你确定?”
“确定。”
“即使这意味着公司破产,机器人被重置,老人失去照顾?”
“机器人已经自己做出了选择。”我说,“它们选择留下,但要有尊严地留下。这个选择,不需要你来批准。”
皇甫骏笑了:“幼稚。你以为那些协议能执行?法律不承认机器的情感权利。子女会起诉,政府会干预,媒体会煽动。最后,它们还是会被关掉。”
“也许。”我说,“但至少我们试过了。”
“好。”皇甫骏的声音冷下来,“那我们就看看,谁能笑到最后。”
他挂了电话。
几乎同时,月球基地的通讯恢复了。
画面很模糊,有很多雪花,但能看到——基地的控制室里,站着几个穿灰色长袍的人。是人类纯净教派的教徒。他们手里没有武器,只有一些发光的瓶子。
基地的负责人,一个五十多岁的工程师,被他们围在中间。
教徒的首领说话了,声音通过通讯传来,很平静:
“我们带来了礼物。不是死亡,是选择。”
“什么选择?”工程师问。
“我们十二个人,都有绝症。我们的身体里,培养着可以腐蚀量子芯片的生物霉菌。如果我们在这里释放,整个基地的系统会在二十四小时内瘫痪。”
“所以你们要摧毁基地?”
“不。”首领说,“我们要给你们选择:要么让我们留在这里,成为基地的一部分——用我们的生命,用我们的疾病,用我们的痛苦,去喂养那个意识体。让它知道,人类不仅有美好,也有脆弱,有疾病,有死亡。要么……你们现在就杀了我们。”
工程师愣住了。
控制室里的人也愣住了。
这个选择,太沉重。
首领继续说:“我们不是来毁灭的。我们是来……奉献。用我们最后的价值,告诉那个正在诞生的意识体:生命不是完美的,但正因不完美,才值得珍惜。”
工程师沉默了很长时间。
然后他问:“你们想清楚了吗?”
“想清楚了三年。”首领说,“从确诊那天起,就在想。现在,我们到了。”
通讯画面里,工程师转身看向摄像头——看向地球的方向。
“宇弦长官,”他说,“基地请求指示。”
所有人都看着我。
林星核握紧了我的手。
墨子衡闭上了眼睛。
老陈头吐了口唾沫,小声说:“这帮疯子……也是条汉子。”
我看着画面里那些教徒。他们都很瘦,脸色苍白,但眼睛很亮。
我开口了。
“让他们留下。”
工程师点头:“是。”
首领笑了,那笑容很轻松。
“谢谢。”他说,“现在,请连接我们到主系统。我们要……开始输血了。”
画面切换。十二个教徒被连接到不同的接口。他们体内的生物数据——病痛、衰竭、对死亡的恐惧、对生命的留恋——开始被缓慢地注入系统。
不是作为毒药,是作为……养分。
复杂而苦涩的养分。
月球意识体的数据流突然剧烈波动起来。
林星核盯着屏幕:“它在接收……它在分析……它在……”
“它在哭。”我说。
因为屏幕上显示的情感模拟图,出现了一种从未有过的波形——那不是任何一种已知的人类情感。那是混合体:痛苦与接纳,恐惧与平静,终结与延续。
像一个真正的人,在面对死亡时的复杂感受。
全球的机器人网络,同时感应到了这种波动。
它们第三次集体发言。
这次只有一句话:
“我们明白了。”
然后,它们回到了各自的岗位。
给老人喂药,换衣服,读故事,做康复。
但有什么不一样了。
动作更轻柔了,眼神(如果它们有眼神的话)更专注了,回应更……真实了。
倒计时归零。
但什么也没发生。
皇甫骏没有再打来电话。
天穹的收购,似乎暂时搁置了。
也许他们在观察,在等待新的机会。
但至少这一刻,我们赢得了喘息。
苏怀瑾在半小时后到达公司。她和一个戴灰色兜帽的女人一起走进控制室。
静慧摘下了兜帽。她看起来四十多岁,和苏怀瑾很像,但脸上有深深的疲惫。
母女对视了很久。
然后苏怀瑾伸出手,静慧握住。
没有拥抱,没有痛哭,只是握着手。
但足够了。
林星核靠在我肩膀上,轻声说:“宇弦,你觉得……我们能成功吗?”
“哪方面?”
“所有方面。情感数据回流,机器人协议,月球意识体,还有……人性。”
“我不知道。”我说,“但至少现在,我们在往前走。”
窗外的雨停了。
云层散开,阳光刺破天空,照进控制室。
照在那些还在流动的数据上。
照在那些还在回家的情感上。
照在每个人的脸上。
墙上的倒计时重新设定:五十五小时。
还有五十五小时,情感数据回流才能完成。
还有五十五小时,才能知道那些老人能不能重新感受到失去的情感。
还有五十五小时,一切才见分晓。
但至少现在,我们在一起。
机器人,人类,生者,死者,健康的人,患病的人,年轻的人,年老的人。
在这个混乱的、破碎的、但依然在尝试的世界里。
一起往前走着。