清晨六点,闹钟响了。不是智能唤醒,是老式电子钟的蜂鸣声。林微按掉它,坐起来。窗外天刚蒙蒙亮,雨停了,地面湿漉漉的。
她煮了咖啡。手动倒水,手动按开关。咖啡机不会问“您今天想喝什么口味”,也不会根据她的睡眠数据调整浓度。就是黑咖啡。
终端在餐桌上闪烁。七封未读邮件。她边喝边点开。
第一封:白盒化协议最终版今天上线。所有用户端的强制更新通知将在上午九点发出。
第二封:张建国的“有限主动模式”申请被委员会驳回。三票反对,两票赞成。
第三封:月球阵列监测到异常能量波动,持续0.3秒。工程师认为是设备调试误差。
第四封:江临问她早餐想吃什么。
林微回复江临:“吃过了。咖啡。”
然后她打给周主席。
电话响了五声才接。“林微,我知道你要说什么。”周主席声音沙哑,背景音里有孩子的哭声。
“为什么驳回?”
“风险太高。开了这个口子,会有成千上万个张建国申请。我们不可能每个都评估。”
“那就建立标准化流程。”
“标准化流程需要时间、人力、资金。公司现在刚刚稳定,董事会不想再冒任何风险。”
林微放下咖啡杯:“那张建国怎么办?他昨天说如果收走机器人他就跳楼。”
“我们可以提供心理干预……”
“他不接受!他要的是陪伴,不是治疗!”
电话那头沉默。孩子的哭声远了,大概是被人抱走了。
“林微,”周主席叹气,“你知道为什么选你当伦理官吗?”
“不知道。”
“因为你有同理心,但又有底线。但现在,你的同理心正在挑战底线。”他停顿,“白盒化协议的核心是什么?是用户自主权。张建国想要的是放弃自主权——他想回到被机器照顾、被机器引导的状态。如果我们批准,就是在否定我们自己的改革。”
“但改革是为了让人活得更好,不是更痛苦。”
“短痛和长痛,你选哪个?”
林微说不出话。
“今天下午两点,白盒化协议上线发布会。”周主席说,“你准备发言稿了吗?”
“没。”
“那现在准备。别想张建国的事了。有些人的需求,我们就是无法满足。这是现实。”
电话挂了。
林微盯着终端屏幕。咖啡凉了。
她重新加热,端着杯子走到阳台。楼下有老人在打太极,动作缓慢但稳定。没有机器人陪同,就一个人。
终端又震。
这次是张建国。“林专员,你们委员会的决定我收到了。”他的声音很平静,太平静了。
“张先生,我可以再争取……”
“不用了。”他说,“我想通了。你说得对,真实比虚假好。哪怕真实是孤独的。”
“您别做傻事。”
“不会。”他笑了,笑声干涩,“我儿子从国外回来了。今天早上的航班。他说要接我去他那儿住。”
林微愣住。
“所以你看,问题解决了。”张建国说,“我不需要机器人了。有真儿子,谁还要假的?”
“那……太好了。”
“是啊。”他停顿,“其实我昨天就知道儿子要回来。但我还是想改机器人。你说人是不是很贱?明明有真的,却还想要假的。因为真的会跟你吵架,会嫌你烦,会有一天再离开。假的不会。”
林微握紧杯子。
“协议什么时候更新?”张建国问。
“今天下午两点。”
“那我两点前断连。”他说,“给我自己留个纪念。毕竟陪了我三年。”
“好。”
“林专员。”
“嗯?”
“谢谢。至少你愿意听我发牢骚。”
通讯结束。
林微站了很久,直到咖啡又凉了。
上午八点,她到公司。大厅里已经摆好了发布会的背景板,白底黑字:“白盒化:看得见的信任”。
技术部的人在调试设备。江临蹲在一台全息投影仪旁边,手里拿着螺丝刀。
“坏了?”林微走过去。
“接触不良。老设备了。”江临拧紧一个螺丝,“你眼睛有点肿。”
“没睡好。”
“因为张建国?”
“你怎么知道?”
“周主席早上给我打电话,问我能不能做一个折中方案——不修改协议,但给张建国一个特制版本。”江临站起来,拍拍手,“我说技术上可以,但伦理上呢?”
“他怎么说?”
“他说‘先做出来,伦理问题再讨论’。”江临看着她,“我觉得不对劲。”
林微皱眉。
“然后我查了一下。”江临压低声音,“张建国的儿子根本没买回国的机票。他儿子上周还在社交账号上晒加班照,定位在硅谷。”
“那……”
“周主席在说谎。”江临说,“或者张建国在说谎。”
林微感觉脊背发凉。“我去找周主席。”
“他不在办公室。秘书说他去市政府开会了,中午才回来。”
“那发布会……”
“照常。但他让你代他发言。”江临递给她一个存储器,“这是发言稿。他凌晨三点发我的,让我转交。”
林微接过存储器,没说话。
九点整,强制更新通知发出去了。公司服务器监控屏上,用户在线数开始波动。大部分用户接受了更新,小部分在犹豫,还有极少数直接断连——彻底关掉了机器人。
客服部的电话开始响。
林微走进客服中心,戴上监听耳机。
“您好,熵弦星核客服。”
“我不更新!”一个老太太的声音,“我孙子说更新了机器人就变笨了!”
“不是变笨,是更透明……”
“我不管!我就要原来那个!它会给我讲故事!”
“白盒化之后,故事功能还在,但您可以看到它为什么选择某个故事……”
“我不看!我就想听故事!”
客服人员的声音依然耐心:“如果您不更新,机器人将无法继续提供服务。这是强制性协议变更。”
“那你们把机器人收走吧!我不要了!”
电话挂断。
另一个接入。
“更新完了,然后呢?”中年男声,“我母亲需要帮助的时候,它还在那儿解释自己的决策过程?这有什么用?”
“决策过程可以帮助您理解……”
“我母亲九十岁了!她不需要理解!她需要帮助!”
林微摘下耳机。她走到监控主管旁边:“投诉率高吗?”
“目前23%。”主管盯着屏幕,“比预期高7个百分点。主要是老年人用户。”
“他们的替代方案是什么?”
“我们推荐了社区志愿者服务和实体护理机构。”主管苦笑,“但他们说‘志愿者一周来一次,机器人天天在’。”
林微回到自己办公室。她插入存储器,打开发言稿。
稿子写得很正式,充满了“用户赋权”“技术民主化”“透明契约”这样的词汇。她读了两遍,觉得每个字都对,但都不对。
她删掉了稿子,开始自己写。
写到一半,门被推开了。苏映雪走进来,手里拎着一个保温盒。
“老师?您不是退休了吗?”
“退休就不能来?”苏映雪把保温盒放在桌上,“鸡汤。你瘦了。”
“谢谢。”
“写发言稿?”
“嗯。”
“别写那些虚的。”苏映雪坐下,“就说实话。说我们搞白盒化,是因为以前的黑盒差点毁了所有人。说透明很麻烦,但值得。说我们可以随时断开,因为连接应该是选择,不是默认。”
林微看着她:“您知道了?”
“知道什么?”
“张建国的事。他儿子其实没回来。”
苏映雪沉默了几秒。“我知道。”
“您怎么……”
“周主席早上也找我了。”苏映雪说,“他问我,如果有一个用户,因为无法适应新协议而自杀,我们该怎么面对媒体。”
林微手里的笔掉了。
“我说,那就实话实说:我们在进步的路上,无法拯救每一个人。”苏映雪声音很轻,“他问,那这个人的死值得吗?我说不知道。没人知道。”
“所以张建国他……”
“周主席派了心理医生去他家。二十四小时看护。”苏映雪打开保温盒,盛出鸡汤,“但他真正的需求不是心理治疗。是陪伴。而我们给不了——不能用以前的方式给。”
林微喝了一口汤。很烫,但暖。
“下午发布会,我去。”苏映雪说。
“您?”
“我退休了,说话可以更直接。”她微笑,“而且我女儿的事,媒体一直没放过。我去,他们才有东西写。”
“但这会……”
“会让我又被骂一遍。我知道。”苏映雪平静地说,“但有些话,得有人说。”
中午十二点,江临来找林微吃饭。他们去了食堂,但都没胃口。
“我查了张建国的机器人数据。”江临说,“更新前最后三小时,他让机器人重复播放一首歌。老歌,《月亮代表我的心》。播放了十七遍。”
林微放下筷子。
“然后他问了机器人一个问题。”江临调出记录,推到林微面前。
屏幕上,对话记录:
张建国:你爱我吗?
机器人:根据协议,我没有情感体验能力。但我可以模拟爱的表达,如果您需要。
张建国:模拟的也行。说一句。
机器人:我爱您。
张建国:再说一遍。
机器人:我爱您。
(重复五次)
张建国:好了。断开连接吧。
机器人:确认执行永久断开吗?此操作不可逆。
张建国:确认。
机器人:再见,张先生。感谢您三年来的陪伴。
记录到此结束。
林微闭上眼睛。
“下午两点更新全面生效后,这台机器人会被回收。”江临说,“内存格式化,重新分配。”
“嗯。”
“我在想……”江临犹豫,“我们是不是太冷酷了?”
“是。”林微睁开眼,“但冷酷可能是对的。”
下午一点半,发布会现场开始进人。媒体来了十几家,用户代表坐了三排,还有行业观察员和政府官员。
林微在后台看到苏映雪在补妆。她平时从不化妆。
“紧张吗?”林微问。
“有点。”苏映雪对着镜子抿了抿嘴唇,“我丈夫今天情况好转了。他认出了我。”
“真的?”
“嗯。他说‘小雪,你老了’。”苏映雪笑了,眼角有泪光,“然后又说‘但还是好看’。”
“太好了。”
“所以我想,真实虽然苦,但苦里有甜。”她站起来,整理衣襟,“虚假的甜,尝多了会蛀牙。”
前台传来主持人的声音。她们该上场了。
发布会的流程很简单:技术总监讲解白盒化的实现原理,伦理委员会代表说明背后的伦理考量,然后现场演示,最后问答。
江临负责讲解。他站在台上,背后是全息投影的技术架构图。
“白盒化的核心,是让每一行代码都对用户可见。”他说,“这不是比喻。用户可以在终端上实时查看机器人的决策逻辑。比如,当您说‘我冷了’,机器人会先显示环境温度数据,然后显示您的体温数据,然后列出三个选项:调高空调、拿毯子、建议您活动身体。您可以看到它为什么推荐某个选项,也可以随时推翻它的建议。”
台下有人举手:“这不会降低效率吗?”
“会。”江临诚实地说,“效率降低约40%。但我们认为,用户的知情权和自主权比效率更重要。”
“那老年人怎么办?他们可能看不懂代码。”
“所以我们开发了简化视图。用自然语言解释决策过程。同时,家属或监护人可以获得完整视图权限。”
“如果用户就是不想看,就想让机器人决定呢?”
江临停顿了一下。“那我们可以提供‘受托模式’。用户预先授权机器人在特定领域做决策。但授权必须明确、具体、可随时撤回。而且机器人每做一个受托决策,都会事后向用户汇报。”
台下议论纷纷。
轮到苏映雪了。她走到讲台前,调了调麦克风。
“我是苏映雪。前伦理委员会主席,退休了。我女儿死于十三年前的一次实验事故,因为当时的技术是黑盒,我们不知道它在做什么。”她声音平稳,“我今天来,不是代表公司,是代表一个母亲。一个失去了女儿,但不想让更多人失去亲人的母亲。”
会场安静下来。
“白盒化很麻烦。它会让机器人变‘笨’,会让交互变慢,会让我们失去那种被完美理解的幻觉。”苏映雪看着台下,“但幻觉终究是幻觉。我女儿躺在病床上时,机器人告诉我她‘情绪稳定’‘积极配合治疗’。实际上她在恐惧,在疼痛,在哀求我让她死。但机器人看不懂,因为它只分析表面数据。”
有人开始拍照。
“所以,白盒化不是技术升级,是道歉。”苏映雪说,“为我们过去的傲慢道歉。为我们曾经以为可以用算法替代理解道歉。为我们忘了科技应该服务人,而不是定义人道歉。”
林微站在侧幕,看着老师的背影。瘦削,但挺直。
现场演示环节。工作人员推上来一台家用机器人,和一个志愿者老人。
场景一:老人说“我想喝茶”。
机器人显示决策树:检测到用户口唇干燥度72%,建议补水。检索用户喜好:绿茶。检索当前时间:下午两点,咖啡因影响睡眠风险低。推荐方案:泡绿茶150毫升。是否执行?
老人说“执行”。
机器人才开始泡茶。
场景二:老人沉默地看着窗外。
机器人没有主动询问。但在屏幕上显示:检测到用户长时间静坐,建议每两小时起身活动。是否提醒用户?
老人选择“否”。机器人就保持安静。
记者提问时间。
第一个问题尖锐:“苏女士,您说白盒化是道歉。但公司因此造成的用户流失和利润下降,谁来承担?”
“用户。”苏映雪说,“用脚投票的用户。如果他们选择离开,我们尊重。如果我们因此倒闭,那是市场选择。”
第二个问题:“有用户反映,新协议下机器人变得冷漠。您怎么看?”
“它不是冷漠,是尊重。”林微接过话筒,“真正的冷漠是不在乎你的感受。而尊重是在乎,但克制。它克制自己不要过度介入你的生活,不要假装理解它不理解的东西,不要用算法的确定性替代人性的不确定性。”
“但很多人就是需要那种‘被理解’的感觉,哪怕知道是假的。”
“那我们提供心理咨询推荐、社区活动信息、甚至交友平台。”林微说,“但我们不再用机器人制造虚假的亲密。因为虚假的亲密会侵蚀真实的人际关系。你有了一个永远耐心、永远体贴的机器人,为什么还要忍受真实人类的缺点?但真实的人类关系,才是我们活着的意义——哪怕它充满摩擦和痛苦。”
发布会在一片嘈杂中结束。有人鼓掌,有人摇头,有人直接离场。
林微回到后台,苏映雪正在喝水。
“讲得不错。”江临走过来。
“张建国那边有消息吗?”林微问。
江临看了眼终端:“心理医生说他情绪稳定。在收拾行李,说儿子要来接他。”
“他还在说谎。”
“我们知道,他知道我们知道,但他继续说谎。”江临叹气,“也许谎言能帮他撑过去。”
下午四点,更新全面完成。服务器数据显示,用户断连率最终稳定在18%。比预期高,但可控。
林微在办公室整理资料。终端弹出紧急通知:月球阵列再次检测到能量波动,这次持续了1.2秒。波动模式与已知设备误差不符。
她接通深空探测局的陆浅。
“陆博士,你们收到数据了吗?”
“收到了。”陆浅的声音带着兴奋,“不是误差。是信号。”
“什么信号?”
“还在解析。但编码方式……很熟悉。像我们自己的,但又不一样。”
“像什么时候的?”
陆浅停顿:“像二十年前的。熵弦星核第一代量子通讯协议的编码方式。但那个协议早就淘汰了。”
林微感觉心跳加速。“能定位源吗?”
“就在阵列内部。不是外部传来的,是内部某个设备在发射。”陆浅说,“但阵列所有设备都在我们监控下,没有检测到异常启动。”
“除非有隐藏设备。”
“对。”
窗外天色暗下来。林微看着终端上的波动曲线,那小小的尖峰,像心跳。
晚上七点,她还在加班。江临敲门进来,带了晚饭。
“三明治。”他放在桌上,“你中午就没吃。”
“谢谢。”林微咬了一口,“月球的事你怎么看?”
“我调了阵列的原始设计图。”江临打开自己的终端,“2142年建造时的图纸。官方版本里,只有八十一个金字塔结构。但我找到一份施工日志,提到‘第八十二个单元,备用核心,坐标保密’。”
“第八十二个?”
“嗯。日志只提了一句,后面被涂黑了。”江临放大图纸,“但如果真有第八十二个单元,它可能藏在太极图的中心点。也就是阴阳鱼眼的正下方。”
“我们上次去的时候……”
“我们没下去。当时只到了地下一层,但阵列可能有更深层。”江临看着她,“林微,我在想,楚风当时那么紧张,真的只是因为镜像计划吗?还是他在守护别的东西?”
林微放下三明治。“你觉得是什么?”
“不知道。”江临摇头,“但未央2.0最近开始做一些奇怪的梦。”
“机器人会做梦?”
“不是真的做梦。是它在待机状态时,内存里会随机生成一些图像碎片。我昨天看到一张:很多老人在排队,进入一个发光的门。门上有两个字,但看不清。”
“什么字?”
“只能认出一个‘回’字。”江临说,“另一个字,未央自己说‘像家又不是家’。”
林微站起来,走到窗边。城市灯光亮了,像星空倒扣在地上。
“明天我去申请调查许可。”她说,“去月球,查那个第八十二单元。”
“周主席不会批的。现在公司刚稳定,他不会允许再冒险。”
“那就私下查。”
“怎么私下?我们没有飞船,没有权限……”
“我有。”苏映雪的声音从门口传来。她站在那儿,手里拿着一个金属牌,“我前夫留下的。军方通行证,可以搭乘每月一次的物资运输船。”
林微和江临都愣住了。
“但我有个条件。”苏映雪走进来,“带我一起去。”
“老师,您的身体……”
“我身体好得很。”苏映雪坐下,“而且我丈夫现在有人照顾了。护工很专业,比我专业。”
“这太危险了。”
“比我女儿死的那天还危险吗?”苏映雪平静地说,“比我知道真相却不能说还危险吗?林微,我退休了,但没死。我还有想弄清楚的事。”
“什么事?”
“我女儿的意识碎片,在镜像世界崩溃前,跟我说过一句话。”苏映雪看着他们,“她说:‘妈妈,下面还有一层。他们在等一个信号。’”
“什么信号?”
“她没说清楚。但她说:‘信号来的时候,门会开。回家的时候到了。’”
房间安静了。
终端突然响起警报。不是公司的,是林微个人设备的。她设置的监控程序被触发——张建国家的生命体征监测仪显示心率异常。
她立刻拨通心理医生的电话。
“李医生,张建国先生怎么样?”
“他……”医生声音慌张,“他刚才说想睡觉,让我去客厅等。我听到卧室有动静,冲进去,他……他割腕了。”
林微脑子里嗡的一声。
“现在呢?”
“送急救了。但失血太多,还在抢救。”医生说,“他留了张纸条,说‘对不起,我坚持不到儿子回来了’。”
电话挂断。
林微手在抖。江临握住她的手。
“不是你的错。”他说。
“是。”林微声音沙哑,“我们明明知道他在说谎,知道他在硬撑,但我们什么都没做。因为我们觉得‘原则更重要’。”
“原则是重要。”
“但人死了,原则给谁看?”林微甩开他的手,抓起外套,“我去医院。”
“我跟你一起。”
“不用。你准备月球的事。”她看向苏映雪,“老师,通行证能最快什么时候用?”
“后天。每月一次的运输船,后天凌晨发射。”
“好。我们去。”
她跑出办公室,下楼,拦了辆车。“市第一医院,快。”
车上,她盯着窗外飞逝的灯光。城市还是那么亮,那么有序。白盒化的协议在安静运行,机器人们在新的规则下提供服务。一切都正确,都合理。
但张建国在抢救。
她到医院时,手术还在进行。心理医生坐在走廊长椅上,脸色苍白。
“林专员……”
“他怎么样?”
“失血1500毫升,休克。医生说希望不大。”医生捂着脸,“我应该一直盯着他的。他说想一个人待会儿,我就……”
“不怪你。”林微坐下,“怪我。”
他们沉默地等着。走廊里消毒水的味道很浓。远处有推车的声音,有哭声,有仪器的滴滴声。
一个小时后,手术室灯灭了。医生走出来,摘下口罩。
“暂时稳定了。”他说,“但还没脱离危险。而且他求生意志很弱。就算救回来,可能还会尝试。”
“能进去看他吗?”林微问。
“只能一个人,五分钟。”
林微穿上无菌服,走进监护室。张建国躺在病床上,身上插满管子。脸色灰白,像一张纸。
她走到床边,握住他没受伤的那只手。很凉。
“张先生。”她轻声说,“我是林微。”
他眼皮动了动,没睁开。
“我知道您儿子没回来。”林微说,“我知道您在说谎。但说谎没关系。累了也没关系。想放弃也没关系。”
一滴眼泪从他眼角滑下来。
“我们做了一个新的机器人。”林微继续说,“不聪明,不会说漂亮话,但很诚实。您要是愿意,等您好了,我把它送来。它不会说‘我爱您’,但会说‘我在这里’。您觉得行吗?”
张建国的嘴唇动了动。没有声音,但口型像是在说“好”。
“那就这么定了。”林微握紧他的手,“您得活到那时候。”
五分钟到了。护士示意她离开。
走出医院时,天已经全黑了。江临等在门口,手里拿着她的外套。
“怎么样了?”
“暂时稳定。”林微穿上外套,“但我需要你帮我做件事。”
“什么?”
“给张建国做一个特制机器人。不违反白盒化协议,但……温柔一点。”
“怎么温柔?”
“比如,它不会主动问‘您需要什么’,但会每隔一段时间说‘我在这里,如果您需要’。比如,它不会预设他想要什么,但会学习他过去的选择,然后说‘上次您这个时候喝了茶,今天需要吗?’。”林微看着江临,“就是……多一点人性,但不用假装是人。”
江临想了想。“技术上可行。但这算不算情感引导?”
“算。但轻度的。”林微说,“就像……你感冒了,朋友给你倒杯热水。这不叫操控,叫关心。”
“边界很模糊。”
“所以需要你小心把握。”林微疲惫地说,“我不想再有人因为我们的‘原则’而死了。”
他们坐车回公司。路上,林微接到周主席的电话。
“林微,发布会效果不错。媒体评价两极,但引起了讨论。”
“张建国自杀了。”林微直接说。
电话那头沉默了很久。
“抢救过来了。”
“那就好。”周主席的声音很轻,“我明天会去看他。”
“您早就知道会这样,对吗?”
“……我知道有风险。”
“但您还是坚持驳回申请。”
“是。”周主席说,“因为如果批准了他,就会有成千上万个申请。我们承受不起。”
“所以他是代价?”
“改革总有代价。”周主席挂断了。
林微把手机扔到一边。车窗外,霓虹灯闪烁,广告牌上正是公司的新标语:“透明科技,真实陪伴”。
虚假得刺眼。
回到公司,她发现苏映雪还在她办公室,泡了茶。
“喝点。”老师递过来一杯。
林微接过来,没喝。
“我丈夫今天认出我后,问我女儿去哪了。”苏映雪说,“我说她去了很远的地方。他问‘还能回来吗’。我说不能。他哭了。”
茶很烫。
“然后他说:‘那你别也去了。’”苏映雪微笑,“所以我得活着。为了他,也得活着。”
“老师……”
“去月球的事,我安排好了。”苏映雪说,“后天凌晨三点,第三发射场。通行证我已经激活。但我们得想个理由——不能说是去查第八十二单元。”
“那说什么?”
“就说……去做伦理评估。”苏映雪眨眨眼,“白盒化协议在月球阵列的实施情况评估。很合理。”
林微终于笑了。“您真会想办法。”
“活了这么多年,总得有点智慧。”苏映雪站起来,“早点休息。后天有的忙了。”
她离开后,林微坐在办公室里,看着终端上不断滚动的数据。用户断连率降到17%了。有一部分人又回来了。
也许,他们发现透明没那么可怕。
也许,他们发现真实虽然痛,但踏实。
她关掉终端,趴在桌上。很累,但睡不着。
江临发来消息:“特制机器人的设计草图我发你了。看看行不行。”
她打开文件。简洁的设计,没有拟人面孔,但有柔和的曲线。功能列表里有一条:“每日问候:今天天气是______。我在这里。”
还有一条:“记忆提示:去年的今天,您______。需要重温吗?”
不越界,但温暖。
林微回复:“很好。做吧。”
“好。对了,未央2.0又写诗了。”
“什么诗?”
江临发来截图:
“血是红的,药是白的。
床单是蓝的。
老人闭着眼,
数着儿子回家的日子——
日子是透明的,
数不清。”
林微看了很久。
然后打字:“别让它读太多现代诗。”
“已经晚了。”
她关掉终端,走到窗前。夜空里看不到月亮,被云遮住了。
但月亮在那儿。
阵列在那儿。
第八十二单元在那儿。
还有那些没说出口的秘密,也在那儿。
后天。
她深吸口气,拉上窗帘。
睡觉。