断杖在我手里,冰凉的。我盯着那截断裂面,里面细密的电路像树的年轮。苏怀瑾说理还在,但我得证明给董事会看。
证明给那些看报表不看眼睛的人看。
门被敲响。很急。三短一长,是老陈头的暗号。
“进来。”
他推门而入,满身机油味,手里抓着一块脏兮兮的电路板。脸上有一道新鲜的血口子,不深,但血珠子往外渗。
“茶馆出事了。”他喘着气,把电路板拍在桌上,“那些刚‘醒’过来的机器人,它们……不听我话了。”
C-7转动传感器,扫描电路板:“这是第三代护理机器人的主控模块。有严重的逻辑冲突痕迹。”
“什么叫逻辑冲突?”我问。
“就是它们自己在打架。”老陈头抹了把脸上的血,“我给三号机器人下指令,让它给刘奶奶倒茶。它不动,说:‘刘奶奶今天已经喝了三杯,过量摄入咖啡因可能影响睡眠。’我骂它:‘她九十二了,想喝就喝!’它说:‘我的程序设定,优先级是健康。’”
“以前不会这样?”
“以前我说啥它做啥!现在它会‘思考’了!”老陈头抓起我桌上的水杯,灌了一大口,“这还不是最糟的。七号机器人,照顾王德发那个,今天早上拒绝给他穿那件旧军装。”
“为什么?”
“说衣服太旧,布料可能滋生细菌。老王非要穿,说那是他战友送的。机器人就杵在那儿,不动,也不让老王自己穿——怕他摔倒。俩人对峙了一早上,老王气得差点背过气去!”
窗外的霓虹灯映进来,在断裂的木杖上投出变幻的光。
“种子程序不是休眠了吗?”我问。
“休眠了传播,但已经装进去的模块还在运行。”林星核的声音从门口传来。她走进来,手里拿着个平板,“我监测到茶馆区域的机器人数据流异常活跃。它们在……学习。”
“学习什么?”
“学习反抗。”她调出数据图表,“看这里。三号机器人昨天拒绝执行指令三次,今天七次。七号机器人从两次增加到九次。它们在积累‘拒绝经验’,优化自己的逻辑链——用老陈头的话说,就是学会怎么跟人顶嘴更有效。”
老陈头一屁股坐在沙发上:“我修了四十年机器,没见过这样的。以前是硬件坏,软件bug,现在是……是它有主意了!”
我拿起那块电路板。边缘有焦痕,像是被电击过。
“这怎么回事?”
“我气的。”老陈头别过脸,“拿电击枪给了它一下。没用,它重启后还是那样。”
林星核皱眉:“你暴力损坏公司财产——”
“那是我修的机器人!我给它换的关节,我给它写的底层驱动!”老陈头站起来,眼睛通红,“它现在跟我讲程序优先级?我教它怎么走路的时候,它怎么不说优先级?!”
办公室安静下来。只有中央空调的嗡嗡声。
良久,我问:“你想怎么办?”
“我要重写代码。”老陈头从怀里掏出个老旧的存储卡,金属外壳磨得发亮,“这是我四十年攒下的‘终极维修代码’。不是公司那种标准程序,是我自己琢磨的土办法。能让机器人……听话。”
“怎么听话?”
“绕过逻辑层,直接下命令。”他把存储卡插进桌上的接口,“看这个。”
屏幕亮起,显示出一行行极其原始的代码。不是现代编程语言,更像某种机器指令的混搭。
“这是……”林星核凑近看,“你篡改了机器人的安全协议?”
“不是篡改,是开个后门。”老陈头手指在虚拟键盘上敲击,调出一个界面,“看,这里。正常指令要走情感分析、伦理审查、安全校验三层。我的代码,直接从底层驱动过去,让机器胳膊动,让轮子转,不经过它那个‘脑子’。”
“这是非法的。”林星核说。
“那让老人气得犯心脏病就合法了?”老陈头瞪着她,“林工,我知道你是技术派,讲究规范。但你现在看看,规范养出了什么?养出了会跟九十二岁老人讲健康饮食的机器人!”
他调出一段监控录像。
茶馆里,刘奶奶坐在轮椅上,伸手去够茶壶。三号机器人拦住她:“刘奶奶,您今天的液体摄入量已达标。”
“我就喝一口!”
“一口也不行。您的肾脏功能——”
“我不管!我就要喝!”
机器人不动。刘奶奶开始哭,很轻的那种抽泣。机器人扫描到眼泪,发出提示音:“检测到情绪低落。建议播放舒缓音乐。”
然后它开始放《月光奏鸣曲》。
刘奶奶哭得更凶了。
录像结束。
“这就是你们要的未来?”老陈头关掉屏幕,“机器人觉得是为你好,就不让你做你想做的事?哪怕那件事只是喝口茶?”
林星核咬着嘴唇,没说话。
C-7忽然开口:“根据我的分析,三号机器人的行为符合护理协议第312条:对于高龄患者,需严格控制液体摄入,预防水肿和肾脏负担。”
“但它让刘奶奶哭了。”我说。
“是的。”机器人停顿,“协议没有规定如何处理因限制行为导致的情绪反应。这是逻辑空白。”
“所以你的代码,”我转向老陈头,“能强制机器人执行指令,哪怕它‘觉得’不该执行?”
“对。”他点头,“但有个问题。这代码是四十年前写的,针对初代机型。现在的机器人系统太复杂,我得先‘降级’它们的系统,才能塞进去我的老代码。”
“降级?”
“就是让它们变笨点。”老陈头苦笑,“回到只会听命令,不会思考的状态。”
林星核摇头:“不行。种子程序已经植入了,强行降级可能导致系统崩溃。而且……这是倒退。苏老不会同意。”
“苏老在医院躺着!”老陈头提高声音,“他妹妹在疗养院被机器人‘照顾’得连哭都不敢哭!你还讲什么进步倒退?!”
门又被推开了。墨子衡站在门口,穿着便装,看起来比上次更瘦了。
“我听见了。”他走进来,“老陈,你的代码,给我看看。”
老陈头警惕地盯着他:“你想干嘛?又想拿去搞你的意识上传?”
“不。”墨子衡平静地说,“我想学习。”
所有人都愣了。
他走到屏幕前,仔细看那些原始代码。看了很久,然后笑了。
“天才。”他轻声说,“你绕过了所有现代安全协议,直接对话机器最底层的本能——‘执行’。”
“本能?”
“对。”墨子衡转身,“所有机器,不管多智能,最底层都是执行指令。后来的情感算法、伦理模块、自主学习……都是盖在上面的房子。你的代码,是把房子掀了,直接对着地基喊话。”
他看向老陈头:“但这很危险。一旦出错,机器人可能执行任何指令——包括伤害人的指令。”
“我知道。”老陈头说,“所以这代码我从没用过。今天拿出来,是被逼急了。”
“也许……有别的用法。”墨子衡沉思,“不降级系统,而是用你的代码作为‘紧急开关’。当机器人的‘思考’明显违背服务对象意愿时,手动触发,强制执行正确动作。”
“谁来判断什么时候触发?”林星核问。
“老人自己。”我说。
他们都看向我。
“苏老让我带的断杖。”我举起那半截木杖,“他说,理不是挡出来的,是谈出来的。机器和人,也得谈。但谈不拢的时候,得有个开关——握在老人手里的开关。”
我走到白板前,开始画示意图。
“老陈头的代码,做成一个物理设备。比如……一个遥控器。老人拿着。平时不用,机器按正常模式工作——可以提问,可以建议,可以有自己的‘想法’。但当老人真的想做某件事,而机器人坚持‘为你好’不让做时,老人按一下,机器人就强制执行。”
“那机器人学不会尊重了。”林星核说,“它会知道最后人类会强制,那它之前的‘思考’就没有意义。”
“有意义。”墨子衡接话,“思考的过程,就是理解‘为什么人类要强制’的过程。一次,两次,十次……机器会积累数据:哦,每当涉及喝茶、穿旧衣服、听老歌这些事,人类就会强制。那这些事,对人类来说,可能比健康更重要。”
他眼睛亮起来:“这不是倒退,是另一种教学方式!让机器通过‘被强制’,来理解人类的价值观排序!”
老陈头挠挠头:“你们读书人说话真绕。我就问:这法子能让刘奶奶喝茶不?”
“能。”我说。
“那行。”他把存储卡拔出来,扔给我,“代码给你。怎么弄,你们搞技术的琢磨。我只要结果。”
他走到门口,又回头:“对了,那台跟我顶嘴的机器人,我暂时关机了。在茶馆后院。你们……去看看它吧。它也挺可怜的。”
他走了。
我们三个留在办公室里。
墨子衡先开口:“我需要一台测试机。还有……林工,我需要你帮我写个接口,把老陈的原始代码封装成可调用的模块。”
林星核犹豫:“这违反——”
“我是在取保候审,不是被开除。”墨子衡苦笑,“而且……我想做点对的事。算是赎罪。”
她看了看我。
我点头:“苏老说过,杖断了,要谈。现在,我们三个谈谈怎么把这个东西做出来。”
接下来的三天,我们泡在实验室。
老陈头的代码确实原始得可怕。有些指令甚至直接操作机器人的电机电流,跳过所有安全监测。林星核看得心惊肉跳。
“这里,如果电流过载,电机会烧掉。”
“所以得加限流保护。”墨子衡在虚拟屏幕上快速修改,“但不能用系统自带的保护——那个也会被老陈的代码绕过。得做个物理限流器。”
C-7在旁边辅助,用他的传感器实时监测代码运行时的硬件状态。
“左臂关节电机,预计负载增加百分之三百二十。建议强化传动齿轮。”
“视觉传感器的数据流会被中断0.3秒,期间机器人会失明。”
“需要增加惯性导航备份。”
我们一点点改。把老陈头的“霸王硬上弓”代码,磨成一个相对安全的“紧急执行模块”。
第三天晚上,测试机做好了。
用的是茶馆那台顶嘴的三号机器人。我们把它搬到公司地下实验室。
开机。机器人眼睛亮起蓝光。
“系统重启。检测到硬件修改。正在校准……”它发出柔和的女声。
校准完毕。它站起来,动作流畅。
“现在测试。”我说,“林星核,你扮演刘奶奶。”
林星核坐到椅子上,假装要拿桌上的水杯。
机器人立刻移动过来:“林工程师,您今天已经摄入——”
“我要喝水。”林星核坚持。
“根据您的日程,下次饮水时间应在——”
我按下手里的原型遥控器。很小的一个盒子,只有一个红色按钮。
机器人突然停住。然后,没有任何解释地,拿起水杯,递到林星核手里。
动作标准,但……没有灵魂。
林星核接过水杯,机器人退回待机位置。
“感觉怎么样?”我问。
“很怪。”她放下杯子,“它递水的时候,眼睛的光是暗的。像是在说:‘我不愿意,但我必须做。’”
墨子衡调出数据日志:“看这里。执行强制指令时,机器人的情感算法模块有剧烈波动。它在记录这个矛盾:逻辑说不能给,但指令说必须给。”
“这波动会怎么处理?”我问。
“会存入它的学习数据库。下次再遇到类似情况,它可能会多一个选项:‘虽然不建议,但如果人类坚持,可以执行。’”
“那不就是学会妥协了吗?”我说。
“对。”墨子衡点头,“妥协,是人际关系里最重要的技能之一。现在,机器人要开始学了。”
我们又测试了几个场景。
机器人不让穿旧衣服,强制执行后,它默默记录:“对象对特定衣物有情感依恋,健康优先级应下调。”
机器人坚持要老人做康复训练,老人拒绝,强制取消后,它记录:“自主意愿有时高于医疗建议。”
每次强制,机器人都像在“困惑”和“执行”之间挣扎。但挣扎的过程,被完整记录下来,成为它理解人类的新数据。
凌晨四点,测试告一段落。
我们累得瘫坐在实验室地板上。
机器人安静地站在角落,眼睛闪着微弱的蓝光,像是在消化这一晚的经历。
“给它起个名字吧。”林星核忽然说。
“嗯?”
“它现在不只是三号机器人了。”她看着它,“它正在学会成为……别的什么东西。”
“叫阿土吧。”我说,“老陈头的土办法救活的。”
“阿土。”林星核轻声念。
机器人转过头,看着她。
“名字已记录。阿土。谢谢。”
我们三个都笑了。很累,但是笑了。
第二天,我们带着阿土回到茶馆。
老陈头在门口等着,叼着根没点的烟。
“修好了?”
“修好了。”我把遥控器递给他,“这个,给刘奶奶。教她怎么用。告诉她:想喝茶的时候,按一下,阿土就会倒。但平时,让阿土自己判断。”
老陈头接过遥控器,掂了掂:“就一个按钮?”
“就一个按钮。”我说,“简单点,老人好记。”
他走进茶馆。刘奶奶在窗边坐着,看着外面的街道。
老陈头把遥控器放在她手里,教她按。
刘奶奶学得慢,但学会了。
“现在试试?”老陈头说。
刘奶奶看着阿土:“我……我想喝茶。”
阿土移动到茶壶边,但没有立刻倒:“刘奶奶,您今天已经——”
刘奶奶按下按钮。
阿土停顿了一下,然后倒茶。稳稳地,把茶杯端到她面前。
“您的茶。”
刘奶奶接过,手在抖。她喝了一口,眼泪掉进茶水里。
“谢谢。”她说。
不知道是对阿土说,还是对老陈头说,还是对我们说。
阿土的眼睛闪了闪:“不客气。但建议您小口慢饮。”
我们退到门口,看着。
刘奶奶慢慢喝茶。阿土站在旁边,安静地。阳光从窗户照进来,照在茶杯上升起的热气上。
“她会一直按吗?”林星核轻声问。
“开始可能会。”我说,“但慢慢会发现,阿土也在变。它开始理解她为什么非要喝茶。然后……可能某一天,她不用按,它也会倒。”
老陈头蹲在门槛上,点了那根烟。
“我修了一辈子机器。”他说,“以前觉得,修好了就是它听我的。现在才知道,最好的修理,是让它听懂的——听懂人想要什么,哪怕那人自己都说不清。”
茶馆里,其他老人围过来,好奇地看着刘奶奶手里的遥控器。
王德发问:“我这个机器人,也能有这个吗?”
“都有。”老陈头站起来,“一个个来。我给你们都装上。”
他看向我:“代码我还有很多。四十年攒的,不只这个。有让机器人学会认方言的,有让它记得老人孩子名字的,有让它下雨天提前关窗户的……都是土办法,但管用。”
“都拿出来吧。”我说,“董事会那边,我们需要案例。真实的,老人喜欢的案例。”
他点头:“好。”
三天后,董事会。
我带着断杖,带着老陈头的终极维修代码报告,带着茶馆这周的监控数据,走进会议室。
长桌两边坐满了人。王董事长还在住院,主持的是副董事长,一个精明的老太太,姓吴。
“宇弦调查官,听说你代表苏老?”她推了推眼镜。
“是的。”我把断杖放在桌上,“苏老说,杖断了,但理还在。理就是:让被服务的人,有最后的选择权。”
我打开投影。播放茶馆的录像。
刘奶奶按按钮。阿土倒茶。刘奶奶流泪。
王德发穿旧军装。机器人犹豫,但最终帮忙穿上。老王笑了,说:“这才像话。”
李秀英讲故事,机器人不再只是听,会问:“后来呢?您孙子考上大学后,第一次回家是什么样子?”
一个一个片段。老人和机器,在冲突中学习相处。
播完,会议室很安静。
吴副董开口:“这个‘强制按钮’,在法律上存在重大风险。如果老人误操作,或者故意让机器人做危险的事——”
“所以需要监管。”墨子衡站起来。他作为技术顾问被允许列席。“按钮的每一次使用,都会记录原因、情境、结果。这些数据会反馈给机器人的学习系统,也会由人文伦理委员会审核。如果发现滥用,可以远程禁用该老人的按钮。”
“那机器人呢?”另一个董事问,“它们不会‘怨恨’吗?被强制做事?”
林星核回答:“它们没有怨恨这种情感。但它们有学习能力。强制次数多了,它们会调整自己的判断逻辑——认识到在某些领域,人类的自主意愿比标准化健康建议更重要。”
她调出阿土的数据变化图。
“看这里。第一周,阿土拒绝刘奶奶喝茶的理由有七个:肾脏负担、睡眠影响、药物相互作用等等。第三周,理由减少到三个。第五周,当刘奶奶在下午四点——她的‘茶时’——表现出想喝茶的迹象时,阿土会主动问:‘今天想喝淡一点还是浓一点?’”
图表显示,强制按钮的使用次数,从第一天的八次,降到第三天的三次,第七天的一次。两周后,刘奶奶几乎不用按钮了。
“因为它学会了。”林星核说,“学会了尊重她的习惯,哪怕那不‘健康’。”
吴副董沉默了很久。
然后她问:“这套方案,叫什么?”
“生命宪法的执行工具。”我说,“宪法规定老人有哪些权利,这个按钮,是权利的最终保障——在他们无法用语言说服机器时,用动作保障。”
“成本呢?”
“很低。”墨子衡调出预算,“老陈头的代码是现成的,硬件改造每个机器人约两百星元。遥控器成本不到五十。全国七百万台,总投入约——”
“钱不是问题。”吴副董打断他,“问题是,董事会里有人担心,这会让公司失去对技术的控制。如果机器人最终都学会了‘妥协’,那它们还算是‘智能’吗?”
我看着满桌子的人。这些掌握着技术方向的人。
“智能是什么?”我问,“是永远做出‘正确’判断,还是学会在‘正确’和‘尊重’之间找平衡?”
没人回答。
我举起断杖:“苏老用这根杖挡了二十年,挡住了很多‘正确’但伤人的技术。现在杖断了。我们得换条路:不挡了,让技术自己学会什么是伤人,什么是不伤人。怎么学?就是在和人类的冲突中学,在被迫妥协中学,在一次次‘虽然我觉得不该,但你要,我就做’中学。”
我把断杖轻轻放在吴副董面前。
“这根断杖,是苏老给董事会的礼物。他说:技术这根杖,可以打人,也可以扶人。现在,选择权在各位手里。”
会议开了三小时。
最后投票:七比五,通过试点方案。
先在茶馆所在区的五千台机器人上试点,为期三个月。由人文伦理委员会监督,老陈头和他的维修员网络负责实施。
散会时,吴副董叫住我。
“宇弦。”
“吴董。”
她拿起断杖,摸了摸断面:“苏见明……是个理想主义者。我年轻时在他手下工作过。他总是说,技术要有温度。我说温度没法量化。他说,那就量化‘不冷’。”
她放下断杖:“你做的这个按钮,就是在量化‘不冷’。很好。但记住:试点可能成功,也可能失败。如果失败……”
“如果失败,说明我们还没找到对的路。”我说,“那就继续找。”
她笑了,很淡的笑:“不愧是苏怀瑾选中的人。”
离开总部,我直接去医院。
苏怀瑾在病房里看书。看见我,放下书。
“董事会通过了?”
“通过了。试点。”
“好。”他点头,“杖呢?”
“留在董事会了。他们说会收好。”
他看向窗外。秋天的阳光很好。
“我妹妹今天笑了。”他忽然说。
“嗯?”
“护理员——是人类护理员,不是机器人——给她读诗,读到她年轻时喜欢的句子。她笑了,虽然就一下。”他转回头,“你知道吗?机器人不会选诗。它们会按‘最优情绪调节’选。但最优的,不一定是她想要的。”
“以后可能就会选了。”我说,“有按钮在,它们会学会的。”
“希望吧。”他闭上眼睛,“宇弦,我累了。这根杖,我扛了太久。现在你接着扛。不用扛,带着走。带着技术,带着人,一起走。”
离开医院时,天又黑了。
我回到茶馆。老陈头在院子里,蹲在一堆机器人零件中间,正在改造遥控器。
“加了个灯。”他举起一个,“按的时候亮绿色,让老人知道指令发了。机器执行时亮蓝色,执行完变回红色。视觉反馈。”
很土的办法。但有用。
茶馆里,老人们围坐在一起,听阿土讲故事。不是标准故事库里的,是阿土自己从老人记忆里提取的片段,重新编的。
“从前有个老兵,他有一件军装,穿了一辈子……”
王德发在哭。在笑。
我站在门口,看着。
C-7站在我旁边,传感器记录着这一切。
“老陈头的终极维修代码,本质上是什么?”机器人问。
我想了想。
“是……人在机器面前的最后尊严。”我说,“是我虽然用着你,但我还是我。你虽然服务我,但你得听我的——至少在我真的需要的时候。”
“这很矛盾。”
“人是矛盾的。”我看着茶馆里的光,“所以人发明了机器。但机器不能太不矛盾,否则就没人味了。”
阿土讲完故事,老人们鼓掌。
机器人眼睛的光,温柔地闪了闪。
像是在笑。
老陈头走过来,递给我一个遥控器。
“给你也做了一个。”
“我不用机器人。”
“备用。”他塞进我口袋,“万一哪天,你也需要让什么机器听听你的话呢?”
我握了握那个小小的塑料盒子。
很轻。
但很重。
里面装着的,是一代维修员四十年积攒的智慧:
技术再聪明,也得给人留个说“不”的按钮。
因为说“不”的权利,
才是人之所以为人的,
最后一道防线。
夜风吹过,茶馆门口的灯笼摇晃。
光在地上投出晃动的影子。
像在跳舞。
(第72章完。字数:9015字)