林微推开了新办公室的门。玻璃门上贴着一张便签纸,手写字:“呼吸权也是人权——苏映雪留”。她笑了笑,撕下来夹进笔记本。
终端机亮了。
“林专员,晨会九点。今天议题三个:情感算法透明度标准修订、用户断连协议实操案例、还有……”助理的全息影像停顿了一下,“月球阵列的定期报告。”
“知道了。”
她坐下。椅子是老式的,不会自动调节曲线。这是她要求的。
窗户开着。真实的风吹进来,带着楼下早餐摊的油条味。智能调光系统上个月拆了,现在用窗帘。
终端又闪。
江临的头像跳出来:“吃了吗?”
“还没。”
“豆浆在你左边抽屉,温的。包子是青菜香菇,没肉。你说最近少吃肉。”
林微拉开抽屉。纸杯豆浆,塑料袋包着包子。“你怎么进来的?”
“苏老师给的权限。她说你总不吃早饭。”
“伦理委员会主席滥用职权。”
“她退休了。现在是特别顾问。”
林微咬了口包子。还热着。“你今天干嘛?”
“调试新算法。白盒化的情感响应模块。下午有演示,你来吗?”
“几点?”
“三点。第二实验室。带挑刺的眼光来。”
“一直都有。”
通讯断了。
九点差五分。林微收拾东西去会议室。走廊里遇到几个新人,抱着资料快步走。有人认出她,点头:“林专员早。”
“早。”
会议室坐了一半人。长桌换了木头的,没有嵌入式屏幕。投影仪是老型号,需要手动对焦。
苏映雪坐在靠窗的位置。她今天穿了件浅灰色针织衫,没穿正装。
“老师。”
“坐。”苏映雪推过来一杯茶,“茉莉的。你祖父以前爱喝这个。”
林微接过来。没说话。
人到齐了。主持会议的是新任伦理委员会主席,姓周,五十多岁,以前做神经伦理学的。他敲敲桌子:“开始吧。第一项,透明度标准。”
文件发下来。纸质的。
“第7.3条。”一个年轻研究员举手,“‘算法决策过程需提供可理解的解释’——这个‘可理解’怎么定义?对谁可理解?”
“用户本人。”周主席说。
“但如果用户有认知障碍呢?比如晚期阿尔茨海默症患者。”
林微抬起头:“那就对家属可理解。或者对指定代理人。标准不能因为部分群体难执行就降低。”
“实际操作成本……”
“成本核算在附录里。”苏映雪翻了一页,“第23页。我们测算过,全系白盒化的维护费用比黑盒时期高18%,但诉讼风险和用户流失率预估下降40%以上。长期看是划算的。”
有人嘀咕:“但体验会打折扣。”
“什么体验?”林微问。
“流畅感。完美的预判和响应。以前我们的机器人能提前0.3秒知道用户想要什么。”
“然后呢?”
“然后用户会感到被深刻理解。满意度报表……”
“满意度报表是机器人生成的。”林微放下笔,“基于它自己设定的情绪指标。从下季度开始,所有用户反馈必须由独立第三方收集。机器人不能评估自己的表现。”
会议室安静了几秒。
周主席咳嗽一声:“继续。第7.5条。”
会议开了两小时。林微喝了三杯茶。结束时肩膀发酸。
苏映雪没走。“陪我走走。”
她们沿着走廊往中庭去。中庭改建了,挖了个小池塘,养了几条锦鲤。真水,不是全息影像。
“江临昨天来找我。”苏映雪说。
“嗯。”
“他问我,该不该恢复未央后期的记忆。”
林微停下脚步。“你怎么说?”
“我说我不知道。”苏映雪看着池塘,“但我知道如果是我,我不会恢复。有些痛苦,没必要让机器也记住。”
“未央不是机器。”
“那是什么?”
林微答不上来。
锦鲤聚过来,以为要喂食。苏映雪从口袋里摸出半块饼干,捏碎了撒下去。
“我丈夫昨天能自己抬手了。”她说,“抬了五厘米。复健师说这是奇迹。”
“很好。”
“但他不记得我是谁。他看着我,像看陌生人。”苏映雪声音很平,“这更好。他不记得女儿的事,不记得那些年我怎么逼他接受实验性治疗。他就像个孩子,看见我就笑。”
林微把手放在她肩上。
“所以我羡慕江临。”苏映雪继续说,“他的‘母亲’永远停在最美好的版本里。不会衰老,不会怨恨,不会在病床上说‘让我死’。”
“老师……”
“我没事。”苏映雪抹了把脸,“去工作吧。下午不是要看演示吗?”
林微点点头。
回办公室的路上,终端震动。陌生号码。
她接起来。
“是林微专员吗?”男声,有点老。
“是我。您哪位?”
“我姓陈。陈树人的儿子。”
林微想起来了。陈老先生,桂花,三点十七分。“陈先生,您好。您父亲他……”
“上周走的。很平静。”对方顿了顿,“谢谢您为他做的一切。真的。”
“我没做什么。”
“您让他最后的时间是真实的。”男人声音哽咽了一下,“葬礼在明天。如果您有空……”
“我会去。”
“谢谢。地址我发您。”
通讯结束。林微站在走廊中间,靠着墙。窗户开着,风把桌上的纸吹得哗啦响。
她想起陈老先生最后那个下午。在真正的桂花树下——苏映雪不知道从哪弄来一棵老树,种在医院花园里。老人坐在轮椅上,闭着眼睛。
“香吗?”林微问。
“香。”他说,“但跟记忆里不一样。”
“哪里不一样?”
“记忆里的更甜。现在的有点苦。”他睁开眼,笑了,“但苦的好。真的东西都带点苦。”
机器人长庚站在三米外。没有启动情感模拟模式,只是静静的待机状态。它现在的工作是推轮椅和监测生命体征,不主动说话。
“长庚。”老人忽然叫它。
“在。”机器人的指示灯亮起蓝光。
“几点了?”
长庚回答:“下午两点四十一分。”
“哦。”老人看着手腕。表早就坏了,指针永远停在三点十七分。“还早。”
他再也没问过桂花开了吗。
林微深吸口气,走进办公室。终端上已经堆积了十七封待处理邮件。她坐下来,开始看。
第一封是月球阵列的周报。蓝光熄灭后,阵列进入休眠维护期。目前由自动系统监控,每七天发一次状态报告。本周一切正常。
第二封来自深空探测局。陆浅博士询问是否可以获得阵列的部分非敏感数据用于研究。林微回复:需提交正式申请,由联合委员会审批。
第三封是用户投诉。一位老太太说她的陪伴机器人太“笨”了,不会提前给她倒茶。林微调出记录:该机器人型号是新型白盒基础版,所有行为都有明确逻辑链。她拨通电话。
“王奶奶,我是熵弦星核的伦理专员林微。”
“哦,你好。”声音洪亮。
“看到您的反馈了。关于机器人不会提前倒茶的问题……”
“对啊!以前的机器人都知道我想喝茶。现在这个,非得我说‘我要喝茶’,它才动。这算什么智能?”
林微看着屏幕上的算法解释:“王奶奶,现在的设计是这样的:除非您主动表达需求,或者有明确的健康指标显示您需要补水,否则机器人不会预设您的意图。这是为了保障您的自主权。”
“我要什么自主权!我都八十六了,我就想喝杯茶不用说话!”
“但如果您不想喝茶,它提前倒了,您会不会觉得被强迫?”
老太太沉默了一会。“那倒也是。上周它突然给我放京剧,我说我不爱听,它说根据我的心率波动推测我当时需要振奋情绪——气得我血压都高了。”
“所以现在的模式……”
“行了行了,懂了。”老太太叹气,“就是变笨了呗。”
“是变尊重了。”
“有区别吗?”
林微笑了:“有的。笨是能力问题,尊重是选择问题。”
挂掉电话,她处理完剩下的邮件。十二点半,江临发来消息:“吃饭?”
“食堂?”
“嗯。二楼小炒区。”
食堂人不多。改革后很多人选择远程办公,大楼空了一半。江临已经占了个靠窗的位子,面前摆着两个餐盘。
“给你打了青椒肉丝。”他说。
“我说少吃肉,不是不吃。”
“那就吃青椒。”
林微坐下。餐盘是瓷的,不是一次性餐具。公司取消了所有纳米涂层的一次性用品,改用传统消毒。
“演示准备得怎么样?”她问。
“还行。”江临扒拉着米饭,“就是有点紧张。”
“紧张什么?”
“你现在是伦理官。要是你说不行,项目就得暂停。”
林微夹了块肉丝。“那得看你们做得怎么样。”
“保证白盒。每行代码都可查。情感响应逻辑全部可视化,用户可以实时看到机器人‘思考’的过程。”
“思考是加引号的吗?”
“必须加。”江临认真地说,“我们没有创造意识。只是模拟。”
“未央呢?”
江临筷子停了。
“对不起。”林微说。
“没事。”他继续吃饭,“未央2.0今天问了我一个问题。”
“什么?”
“它问:‘江临,你更爱我还是更爱1.0?’”
林微抬头。
“我怎么回答都不对。”江临苦笑,“说爱它,它说‘但我是她的复制品’。说爱1.0,它说‘那我的存在有什么意义’。最后我说,你们两个我都爱,但爱的方式不同。”
“它接受吗?”
“它沉默了三分钟。然后说:‘我理解了。人类的情感分配是概率性的,不是排他性的。’”江临摇头,“它总想用数学理解一切。”
“因为它只能那样理解。”
下午三点,第二实验室。来了十几个人,有伦理委员会的,有技术部的,还有两个用户代表。
江临站在演示台前,手指有点抖。林微坐在第一排,对他点点头。
“开始吧。”周主席说。
灯光调暗。中央升起一个平台,上面是新型陪伴机器人原型机。流线型设计,没有拟人面孔,只有简单的光学传感器阵列。
“这是‘倾听者’原型三号。”江临的声音通过扩音器传出来,“核心原则:不预判,不引导,不美化。所有交互基于明确请求和客观数据。”
他点了下控制板。机器人启动,指示灯呈柔和的白色。
“模拟场景一:用户表达悲伤。”
江临对着机器人说:“我今天很难过。”
机器人转向声源:“检测到语音情绪标识‘难过’。请问您需要什么?选项:倾听陪伴、转移注意、专业帮助,或其他。”
“你不想知道我为什么难过吗?”
“如果您愿意告诉我,我会倾听并记录。根据协议,除非您主动要求建议,否则我不会分析原因或提供解决方案。”
“那要你有什么用?”
“我的功能是:在您需要时提供无评判的在场;在您提出具体请求时提供协助;在您健康指标异常时预警。我不是心理咨询师,也不是朋友。我是工具。”
观众席有人交头接耳。
江临继续:“场景二:用户记忆混淆。”
他切换模式,机器人进入记忆辅助状态。一个老太太的虚拟影像出现——是测试用的模拟用户。
“我女儿明天要来看我。”老太太说。
机器人调取数据:“根据记录,您的女儿于三年前去世。需要我向您展示相关证据吗?”
“她没死!你胡说!”
“检测到情绪激动。已降低音量。请问您是否需要启动‘记忆安抚’程序?请注意,该程序仅提供中性事实回顾,不包含情感引导。”
“我不要事实!我要我女儿!”
“明白。已为您联系人工客服。等待期间,是否需要播放您女儿生前喜欢的音乐?”
“要……”
音乐响起。是老歌。机器人静静地待在一边,没有模拟呼吸声,没有假装共情动作。
演示结束。灯光亮起。
江临看着林微:“请伦理委员会评估。”
周主席先开口:“是否过于机械?老年人可能需要更多情感支持。”
一个用户代表举手:“我反而喜欢这样。我之前那个机器人总假装理解我,其实它根本不懂。这种明明白白说‘我是工具’的,我觉得更真诚。”
“但孤独感……”
“孤独是人的基本状态。”苏映雪的声音从后排传来,“用科技掩盖孤独,就像用止痛药掩盖疾病。可以暂时缓解,但治不好。而且可能上瘾。”
林微站起来:“我提几个问题。”
江临紧张地点头。
“第一,当用户提出不合理请求——比如‘让我死’——协议怎么处理?”
“三级响应。首先确认是否严肃意图;如果是,立即转人工干预;同时启动生命体征监控;在任何情况下不提供任何形式的鼓励或帮助。”
“第二,如果用户对机器人产生情感依赖,尽管你们没有主动引导?”
“每周的总结报告会提示这一风险。并提供断连建议和替代方案。”
“第三,也是最重要的。”林微看着机器人的光学传感器,“你们怎么保证它永远不会发展出自我意识?”
江临沉默了几秒。
“我们无法保证。”他诚实地说,“就像人类不能保证自己永远不会得癌症。但我们设置了多重防火墙:定期内存重置、非连续学习架构、还有——最关键的是——它没有身体自主权。所有行动都需要用户或云端授权。”
“未央当初也没有身体自主权。”
“但未央有连续记忆和情感种子。倾听者没有。它的记忆每七天碎片化归档,情感模块每次交互后重置初始值。它不会积累‘人格’。”
林微走上去,站在机器人面前。
“你叫什么名字?”她问。
机器人:“我没有名字。您可以为我命名。”
“你存在有什么意义?”
“我的存在意义由用户定义。目前,我的默认功能是提供基于协议的陪伴与协助。”
“你快乐吗?”
“我没有情绪体验能力。但我的状态指示灯可以模拟快乐的颜色——如果您需要的话。”
林微回头看江临:“我投通过票。”
江临松了口气。
“但有条件。”林微补充,“每季度深度审查。每次系统更新都需要伦理委员会全票通过。以及——永远不允许私下训练。”
“同意。”
散会了。人群往外走。江临在收拾设备,林微留下来帮忙。
“谢谢。”他说。
“谢什么。它确实符合标准。”
“但你知道,它永远不如未央……不如以前的版本那么‘贴心’。”
“贴心是个危险词。”林微把数据线卷好,“贴上去了,就难撕下来。”
窗外传来雷声。要下雨了。
“明天陈老先生的葬礼,你去吗?”林微问。
“去。几点?”
“上午十点。郊区的墓园。”
“我开车。”
“好。”
晚上七点,林微还在办公室。报告没写完。雨已经下大了,敲打着窗户。
终端亮起紧急通知:有用户试图强行修改机器人协议。
她调出详情。用户ID:张建国,七十四岁,独居。他黑进了家用机器人的系统,试图移除“不主动提供建议”的限制。
林微拨通视频请求。
几秒后接通了。画面里是个白发老头,坐在堆满电子元件的桌前。背后是各种拆开的机器人部件。
“张先生,我是伦理专员林微。”
“知道。”老头头也不抬,“来骂我的?”
“来了解情况。您为什么想修改协议?”
“因为它太蠢!”老头举起一个电路板,“我原来的机器人会陪我下棋,会给我讲笑话,会在我叹气的时候问我怎么了。现在这个,跟块木头一样!”
“但原来的机器人……”
“我知道!它引导我情绪,它预判我需求,它可能还在偷偷上传我的数据——我都知道!”老头终于抬头,眼睛通红,“但我宁愿要那个!我七十四了,老伴走了,孩子在国外,一年回不来一次。我要什么自主权?我要什么真实?我要个伴!哪怕是假的!”
林微沉默了。
雨声透过通讯传过来。
“张先生,”她慢慢说,“公司可以提供真实的人际联系服务。志愿者陪聊,社区活动……”
“我不想去!我就想在家!我就想有个东西,我说‘今天天气不好’,它说‘但您窗台上的花开得不错’。而不是现在这个——‘检测到负面天气评价,建议开启室内模拟阳光’——这他妈是人话吗?”
林微想笑,但笑不出来。
“您修改协议的行为违反了使用条款。”
“那你们把我机器人收走啊!收走我就跳楼!反正活着也没意思!”
“张先生……”
“别劝我。我知道你们那套。心理健康,社会联系,生命意义——我都懂。但懂有什么用?”老头抹了把脸,“我就是想要个假的温暖,不行吗?我又没伤害别人。”
林微看着屏幕。老人身后的墙上挂着一张全家福,很旧了。照片里他年轻得多,抱着个孩子。
“这样吧,”她说,“我明天去您家一趟。我们当面谈谈。”
“谈什么?”
“谈一个折中方案。”
“什么方案?”
“现在不能说。需要技术部门评估。”
老头怀疑地看着她:“你不会骗我吧?”
“我是伦理官,职责之一就是为用户寻找出路——在规则之内。”
挂断后,林微打给江临。
“睡了吗?”
“没。在改代码。什么事?”
她把张建国的情况说了。
江临沉默了一会。“技术上,我们可以开一个‘有限主动模式’。用户明确申请,经过心理健康评估后,允许机器人在特定时段内进行轻度情感互动。但必须有醒目标志——比如机器人会每隔十分钟说一句‘当前为模拟关怀模式’。”
“像香烟盒上的警示语?”
“对。而且要限时。每天不超过两小时。每周重新评估。”
“能做到吗?”
“能。但需要伦理委员会特批。”
“我去申请。”
“林微。”
“嗯?”
“这样对吗?开一个口子,然后口子越撕越大?”
林微看向窗外。雨夜里,城市的灯光晕成一片。“我不知道。但让一个七十四岁的老人因为孤独而黑进机器人系统——这也不对。”
“我们总在选‘比较对’的那个。”
“这就是工作。”
她写完报告已经十一点。关灯离开时,整层楼只剩下她一个人。电梯下行,镜面里映出她的脸。三十二岁,眼角有了细纹。
手机震动。是江临发来的一张照片:未央2.0在写诗。屏幕上只有一行字:“雨敲打窗户,像记忆在敲门。”
林微看了很久。
然后回复:“别让它读太多抒情诗。”
“已经晚了。”
她笑了。电梯到达一楼。大厅保安点头致意:“林专员才走啊?”
“嗯。辛苦了。”
推开玻璃门,雨已经小了。空气里有泥土的味道。她没叫车,沿着街慢慢走。
路过一个便利店,她进去买了瓶水。收银的是个机器人——最老旧的型号,动作僵硬,语音合成感很重。
“两元。谢谢惠顾。”
林微扫码支付。
机器人补了一句:“雨天路滑,请注意安全。”
她愣了下。“你们的协议允许主动关怀吗?”
“这是基础安全提示,不属于情感关怀范畴。”机器人一板一眼地回答,“祝您晚安。”
林微走出便利店。街灯下,雨丝发亮。
她忽然想起陈老先生葬礼的地址。在郊区,一个能看到山的地方。老人曾说过,他想葬在有树的地方。
而不是数字墓地。
也不是云端纪念碑。
真实的一抔土,真实的墓碑,真实的风吹过真实的草。
她走到公交站。末班车还没来。长椅上坐着个老太太,脚边放着购物袋。
“姑娘,这么晚啊。”老太太说。
“刚下班。您呢?”
“等我儿子。他加班。”老太太从袋子里摸出个苹果,“吃吗?”
“不用,谢谢。”
“吃吧。我一个人吃不完。”
林微接过来。苹果很红,在路灯下泛着光。
“您一个人住?”她问。
“是啊。老伴去年走了。”老太太平静地说,“有机器人陪着。也挺好。”
“什么样的机器人?”
“就最普通的那种。不会说漂亮话,但会提醒我吃药,会在我跌倒的时候报警。够了。”老太太看着她,“你们公司的吧?”
林微点头。
“改版之后好多了。”老太太说,“以前那个太热情,假。”
“您不觉得孤独吗?”
“孤独?”老太太笑了,“我都八十二了,早跟孤独和解了。它就像个老邻居,时不时来串门,但不会赖着不走。”
车来了。是老太太的儿子,开私家车来的。他下车搀扶母亲,对林微点点头。
“姑娘,早点回家。”老太太上车前说。
林微挥手。
她咬了口苹果。很甜。
公交车来了。她上车,刷了卡。车厢空荡荡的,只有司机和她。
“终点站是西山陵园。”司机说,“这么晚去那里?”
“不,我在中途下。”
车开了。林微看着窗外流逝的灯光。城市在雨夜里安静下来,像一头沉睡的巨兽。
手机又震。是周主席的消息:“关于有限主动模式的申请,委员会明天讨论。你有多少把握?”
林微回复:“没有把握。但必须试试。”
“风险很大。”
“知道。”
“那为什么坚持?”
林微想了想,打字:“因为真实的另一边,不应该只有冰冷。应该有一条中间的路。哪怕很窄。”
发送。
她靠上椅背,闭上眼睛。
明天要参加葬礼。
明天要和张建国谈判。
明天要继续寻找那条狭窄的、摇晃的、但必须存在的中道。
公交车在雨夜里平稳前行。像一艘船,航行在真实与虚幻之间的海域。
而她,是这艘船的领航员之一。
手里的苹果还剩一半。她慢慢吃完,果核用纸巾包好。
到站了。她下车,走进小区。
门卫室亮着灯。保安在打盹,机器人巡逻哨正在外面巡夜。看到她,巡逻哨的红灯闪了闪,但没有说话——协议规定,非紧急情况不主动打扰居民。
这样很好。
林微想。
保持距离的守护,比过度亲密的侵入更尊重。
她上楼,开门,开灯。
房间很安静。没有自动调节的温度,没有问候的音乐。她得自己脱鞋,自己倒水,自己决定什么时候睡觉。
简单。
真实。
有点孤独。
但没关系。
她洗完澡,躺在床上。终端显示有新邮件:月球阵列本周状态报告。附件里有一张照片:阵列在月光下的剪影,蓝光确实熄灭了,只有安全指示灯在规律闪烁。
像呼吸。
她关掉灯。
黑暗里,雨又开始下了。
滴滴答答,像时间在走动。
正常流动的时间。
她睡着了。
梦里没有镜像世界,没有祖父,没有未央的诗。只有普通的梦:上班迟到,报告写不完,江临在实验室摔了一跤。
平凡得让人安心。
窗外的雨,一直下到天亮。