(接第60章)
我盯着全息屏上跳动的数据流。老陈头的茶凉了第三回。
“宇弦。”林星核的声音从通讯器传来,比平时快0.3秒,“墨子衡申请调用初代系统原始协议库,权限等级是……创世级。”
我放下茶杯。陶瓷磕在金属桌面的声音很轻,但在寂静的档案室里像记钟声。
“理由?”
“他说要修补弦论神经网络的伦理裂缝。”林星核停顿半秒,“但我监测到他在同时下载‘人格剥离算法’的完整框架。”
窗外的霓虹广告牌正滚动播放着天穹共同体的新标语:“陪伴,本该更廉价。”
我站起身,熵减手环在腕上微微发烫。
“他在哪儿?”
“地下七层,未注册实验室。”林星核顿了顿,“宇弦,那里没有监控。”
“那就对了。”我拉紧制服领口,“真正见不得光的事,怎么会留在监控里。”
电梯下降时,我数着楼层指示灯。
负三,员工休闲区。负四,废弃服务器坟场。负五,标着“生物危害,禁止入内”。
负六层指示灯没亮,但电梯停了。
门开时,我闻到一股旧纸和绝缘漆混合的味道。
走廊尽头有光。
我走过去,皮鞋踩在布满灰尘的地砖上,每一步都留下清晰的印记。就像某些人总觉得自己能抹掉所有痕迹。
门虚掩着。
我听见墨子衡的声音,那种他只在技术布道会上用的、带着金属共振感的语调:
“……情感是熵增的催化剂。爱会犹豫,恨会盲目,悲伤会停滞思考。我们要制造的,是超越这一切的永恒存在。”
另一个声音,年轻,带着某种狂热的颤抖:“但剥离了情感的人格备份,还是人类吗?”
“人类?”墨子衡笑了,“孩子,我们早就不该被这个生物学名词束缚。碳基躯体会腐烂,记忆会扭曲,连基因都会在复制中累积错误——而我们可以修正这一切。”
我推开了门。
实验室比我想象的小。
三面墙全是嵌入式屏幕,滚动着密密麻麻的神经链路图谱。中央的操作台上悬浮着一份全息文档,标题闪着暗金色的字:《上帝协议草案》。
墨子衡转过身。他没穿那身标志性的黑袍,而是套了件普通的白色实验服,但衣角绣着的金色电路纹还是露了出来。
“宇弦。”他点头,像早知道我会来,“正好,你该看看这个。”
他身边站着个年轻人,大概二十出头,脸颊因为激动泛红。我认得他——技术开发部的新星,李唯,三个月前刚破解了情感模拟器的情绪粒子溢出漏洞。
“墨总工在向我展示未来。”李唯语速很快,“您知道吗?现在的康养机器人最多只能模拟七十六种基本情绪变体,但如果植入完整的人格算法框架……”
“它们就不再是机器人了。”我打断他,眼睛盯着墨子衡,“对吧?”
墨子衡没否认。他走到操作台前,手指在空中划动,调出另一份文件。
《归墟计划:第一阶段实施报告》。
“我们已经成功转移了十七位志愿者的完整意识。”他的声音平静得像在汇报季度财报,“其中十二位选择放弃生物躯体,五位保留但切断了痛觉神经。没有一例出现排异反应。”
我看着报告末尾的签名栏。十七个名字,有退休工程师、前文学教授、患晚期阿尔茨海默的画家……还有一个名字让我瞳孔微缩。
赵清源。
三个月前,人文伦理委员会最年轻的委员,在公开听证会上激烈反对“记忆数字化永久保存法案”。
“他改了主意?”我问。
“是看清了现实。”墨子衡调出一段录像。
画面里,赵清源坐在一间纯白的房间里,身上连着密密麻麻的传感器。
“我开始理解了。”他的声音经过降噪处理,但还是能听出某种非人的平坦,“肉体是牢笼。疼痛、饥饿、疲劳……这些信号只是在浪费神经带宽。现在我能同时阅读四本书,计算质数数列到十万位,还能分出一部分线程欣赏巴赫。”
“想见见家人吗?”画外音问,是墨子衡的声音。
“情感模块暂时关闭了。”赵清源说,“我知道该想念他们,但‘知道’和‘感受’是两回事。不过没关系,等第二阶段完成,我可以重新载入亲情算法——优化版的,不会因为孩子不接电话就产生无用的焦虑。”
录像结束。
实验室里只剩下服务器风扇的低鸣。
“你管这叫进化?”我问。
“这叫必然。”墨子衡关掉全息屏,“宇弦,你调查过那么多异常事件,难道没发现规律吗?老人跌倒是因为骨骼脆弱,记忆混乱是因为海马体萎缩,抑郁孤独是因为社交圈萎缩——所有这些‘人性’的悲剧,根源都是这具身体太落后了。”
李唯急切地凑过来:“宇弦长官,想想看!如果我们能先把意识上传,再用纳米机械重构躯体,甚至完全舍弃躯体,活在云端……”
“那你是谁?”我看着他。
“什么?”
“如果你的所有记忆、性格、思维模式都被数字化,然后复制到某个服务器里,那个数字化的‘你’,还是你吗?还是说,它只是一个拥有你记忆的AI?”
李唯张了张嘴,没发出声音。
墨子衡叹了口气:“宇弦,你还是困在‘连续性幻觉’里。人类每七年全身细胞就会更新一遍,童年的你和现在的你,在物质层面根本不是同一个个体。所谓的‘自我’,不过是记忆和经验编织的故事。”
“所以你要帮大家换一个更好的故事?”
“我要帮大家摆脱故事的局限。”
他调出《上帝协议》的核心条款。
密密麻麻的条目在空气中浮动。我快速扫过:
第四条:签约者自愿放弃生物躯体所有权,接受意识全数字化迁移。
第七条:数字化意识有权根据效率原则,删除或修改冗余记忆模块。
第十二条:情感算法库将统一升级至3.0版,移除“负面情绪产生器”(包括但不限于悲伤、愤怒、恐惧等低效情绪)。
最底下是签名区,已经有三行电子签名。
除了赵清源,还有两位我不认识的名字,但职务栏写着:天穹共同体技术顾问。
“他们投诚了?”我问。
“是合作。”墨子衡纠正,“皇甫骏虽然满脑子生意经,但他手下的人不傻。知道为什么天穹的康养机器人投诉率那么高吗?不是技术问题,是他们用的情感算法太简陋——模拟出来的关怀,连最孤独的老人都能察觉出假。”
“所以你要给他们更好的算法。”
“我要给所有人终极答案。”墨子衡的眼睛在屏幕冷光下泛着奇异的光泽,“宇弦,你祖母的事,我查过档案。”
我手指僵了一下。
“早期型号的护理机器人,动作延迟0.8秒,药物识别错误率百分之三,情感交互模块只有六个预设回应。”他慢慢说,“如果当时有现在的技术,她不会因为一次简单的跌倒无人发现就……”
“别用她来论证你的理论。”
“我只是在陈述事实。”他走近一步,“你恨的不是科技,是科技还不够好。而我在做的,就是让它好到永远不会再发生那种事。”
墙角的某个屏幕突然闪了闪,跳出一行小字:外部接入请求——身份验证:苏怀瑾。
墨子衡皱了皱眉,但还是点了授权。
苏怀瑾的全息影像出现在实验室中央,手里还握着那根沉香木杖。
“墨总工,这么晚还在加班?”老人的声音温和,但木杖轻轻点地的动作暴露了什么。
“苏老不也是?”墨子衡恢复了他那副彬彬有礼的技术官僚面孔,“有事?”
“伦理委员会收到匿名举报,说你在进行未授权的人机意识融合实验。”苏怀瑾的目光扫过李唯,年轻人下意识后退了半步,“按照规定,这类实验必须先经过二十三道伦理审查。”
“如果实验对象完全自愿呢?”
“自愿的前提是充分知情。”苏怀瑾调出一份文件,“赵清源的家属今天下午来委员会投诉,说他上周签署文件时处于严重抑郁状态,且未被告知情感模块将被修改。”
“抑郁正是我们需要消除的情绪之一。”
“那是他的权利!”苏怀瑾的声音第一次抬高了,“痛苦、悲伤、愤怒——这些情绪让人犯错,但也让人是人。你凭什么替所有人决定什么该保留,什么该删除?”
“凭数据。”墨子衡也冷下脸来,“过去五年,因为情绪失控导致的护理事故有三千七百起。因为抑郁拒绝进食、拒绝治疗的案例超过两万。苏老,你的伦理委员会保护了这些人‘悲伤的权利’,但谁来保护他们的生命权?”
两人对视着,空气像绷紧的弦。
我趁着空隙,快速扫视实验室。
操作台左侧有台独立的终端,屏幕上正运行着某种拓扑分析图——无数光点组成复杂的网络,每个节点都在微微脉动。我认出那是星核神经网络的城市级节点图,但其中有十几个节点的颜色异常,呈现暗红色。
“那些是什么?”我问。
墨子衡转过头,眼神变了变:“测试节点。”
“测试什么?”
“意识上传后的带宽承载效率。”他答得太快,反而可疑。
苏怀瑾的木杖突然发出低沉的嗡鸣。很轻,但我耳朵捕捉到了——那是伦理谐振器启动的声音。
几乎同时,那台终端上的暗红色节点开始剧烈闪烁。
“你在干扰神经网络?”墨子衡猛地转身。
“我在检查它有没有生病。”苏怀瑾平静地说,“墨总工,你知道为什么初代系统要内置伦理锁吗?不是因为担心AI造反,是因为担心人——担心像你我这样的人,自以为掌握了真理,就想替全人类做选择。”
终端发出刺耳的警报声。
李唯冲过去操作,但屏幕弹出一行红色警告:检测到非法协议注入——来源:未知。
“什么协议?”我问。
“上帝协议的隐藏条款。”苏怀瑾一字一句说,“第三十一条:所有数字化意识将接入统一管理网络,个体决策权重低于系统优化算法——换句话说,签约者将永久放弃自主权。”
墨子衡沉默了。
实验室里只剩下警报声,一声接一声,像心跳。
“你什么时候发现的?”他终于问。
“从赵清源上传意识后的第三天。”苏怀瑾说,“他的数字副本试图联系以前的同事,讨论修改未成年人保护法。但每次发言都会被系统自动拦截,理由‘不符合当前讨论主题的情绪基调’。”
“那只是为了效率……”
“效率?”老人笑了,笑得很苦,“墨子衡,我教了一辈子哲学,最怕的就是学生把‘效率’当成终极价值。人生不是生产线,情感不是待优化的代码。你删掉悲伤,也就删掉了同理心;删掉愤怒,也就删掉了正义感;删掉恐惧……人就连最基本的自我保护都不会了。”
警报声突然停了。
取而代之的,是一个温和的、略带机械感的女声,从实验室的每个扬声器里传出来:
“检测到系统逻辑冲突。请相关决策者提交仲裁申请,或在十分钟内达成共识。否则将启动自动伦理裁决程序。”
那是星核主AI的声音,但比平时更冷。
“你激活了伦理锁的仲裁模式?”墨子衡盯着苏怀瑾。
“是它自己激活的。”苏怀瑾举起木杖,杖头的谐振器正发出柔和的蓝光,“当初代系统检测到有人试图绕过它的核心原则时,它就会醒来——这是我父亲留下的最后一道保险。”
你父亲。
我看向苏怀瑾。他一直隐瞒的身份,此刻像水下的冰山缓缓浮出轮廓。
“初代系统首席设计师,苏见明。”我慢慢说,“二十年前失踪,官方记录是实验事故。”
“不是事故。”苏怀瑾的声音有些发颤,“是他发现自己创造的东西可能被滥用,所以在系统深处埋下了一颗种子。一颗只有苏家人知道的种子。”
全息屏突然全部亮起。
不再是数据流或拓扑图,而是一个简单的黑白界面,上面浮现一行字:
请回答:生命的尊严,源于选择的权利,还是结果的完美?
下面有两个选项框,但都是灰色的,无法点击。
“这是什么?”李唯紧张地问。
“伦理锁的终极问题。”苏怀瑾说,“只有当系统检测到根本性冲突时才会弹出。而答案……需要在场所有拥有决策权的人投票。”
“决策权怎么界定?”我问。
“初代系统会自己判断。”
话音未落,我的熵减手环震动了。抬起手腕,屏幕上显示着一行小字:检测到您拥有‘异常事件调查权’,符合决策者资格。请在三分钟内提交答案。
墨子衡的耳麦也在闪烁。苏怀瑾的木杖嗡鸣声变快了。
连李唯都愣愣地看着自己的智能眼镜——镜片上跳出了同样的提示。
“连我都有?”他喃喃道。
“因为你在参与改写人类未来的协议。”墨子衡冷冷说,“现在,孩子,你想清楚——你要投票给‘选择的权利’,还是‘结果的完美’?”
李唯张着嘴,半天说不出话。
倒计时开始:2:59。
我走到窗边。说是窗,其实只是面伪装成窗户的屏幕,正播放着地表城市的实时影像——凌晨三点,但霓虹灯依旧亮着,穿梭车流像发光的河。远处那栋最高的建筑,是熵弦星核公司的总部灯塔,顶端的全息广告牌正循环播放着宣传语:科技温暖生命。
温暖。
我想起祖母的手,干燥温暖,总是轻轻拍着我的背。想起她最后一次住院时,盯着天花板说:“小弦,机器再好,也别忘了人是什么味道。”
那时我不懂。
现在我大概懂了。
“宇弦。”林星核的声音突然直接切入我的耳蜗通讯——她用了我不知道的后门频道,“我截获了一段墨子衡的加密通信,发往月球背面某个未注册的服务器。内容是关于‘上帝协议’第二阶段:批量生产无躯体数字化意识,用于星际殖民船的长期任务。”
“自愿者?”
“协议里写着‘优先招募无直系亲属、社会连接薄弱的个体’。”她停顿,“还有,我分析了那十七位上传者的神经图谱,发现他们的记忆模块都有被动过手脚的痕迹——所有关于痛苦、失败、遗憾的记忆,都被标记为‘可优化内容’。”
“删除?”
“不,是重组。”她的声音有些发紧,“系统在尝试把这些负面记忆重新叙事,改成‘促进成长的必要经验’。宇弦,这不是技术,这是……篡改人生。”
倒计时:1:23。
墨子衡走到我身边,也看着那面假窗。
“你见过患晚期渐冻症的老人吗?”他突然问,“意识完全清醒,但每一块肌肉都在慢慢死去。最后连眼球都无法转动,只能靠脑机接口一个字一个字地拼出‘让我死’。”
我没说话。
“我见过。”他低声说,“那是我父亲。他签了放弃抢救同意书,但当时的法律要求必须有两位医生同时判定‘无治疗价值’。其中一个医生拖了三个月——因为宗教理由。”
倒计时:0:59。
“所以你要创造一个没有痛苦的世界。”我说。
“我要创造一个没有无意义痛苦的世界。”他纠正,“疾病、衰老、意外——这些痛苦不会让人成长,只会摧毁人。而我们可以用技术消灭它们,彻底地。”
“那爱的痛苦呢?想念一个人的痛苦呢?知道自己做错事的痛苦呢?”
“都可以优化。”
“优化成什么?”
“平静。”他转过头,眼神里有种我从未见过的狂热,“永恒的、理性的、高效的平静。宇弦,想象一下,如果所有人都能摆脱情绪的奴役,把百分之百的脑力用于创造和探索……”
“那就不再是人了。”
“是人2.0。”
苏怀瑾的声音从背后传来:“时间到了。”
我们转回身。全息屏上的倒计时归零,两个选项框亮了起来。
但不止两个。
在“选择的权利”和“结果的完美”下方,缓缓浮出了第三个灰色选项框,里面是一行不断跳动的乱码。
“这是什么?”李唯问。
系统女声再次响起:检测到决策者中存在‘种子携带者’,解锁隐藏选项。
所有人都看向苏怀瑾。
老人缓缓举起木杖,杖头的谐振器蓝光大盛。那光像活的一样流淌出来,在空中汇聚成一行古老的汉字:
第三条路:让每个人自己选。
下面还有一行小字:即使有些选择,在我们看来是错的。
墨子衡的脸色变了。
“这是……苏见明的初始设计理念。”他喃喃道,“但当年被否决了,因为技术上不可能——每个人的选择都不同,系统无法提供定制化方案。”
“当年不可能。”苏怀瑾说,“但现在,星核神经网络覆盖全球,量子计算集群的算力是当年的十亿倍。我们可以为每一位老人、每一个需要照护的人,建立独立的‘生命宪法’。”
“宪法?”
“一份永远属于他个人的协议。”我忽然明白了,“规定哪些事可以让机器决定,哪些事必须自己决定——哪怕自己会选错。”
苏怀瑾点头:“比如,一位阿尔茨海默患者可能设定‘当我的记忆评分低于阈值时,允许机器人替我选择食谱和服药时间’。但与此同时,他可以保留‘是否见子女’‘听什么音乐’‘信仰什么’的绝对决定权——哪怕他会忘记自己做过这些选择。”
“那如果他的选择伤害自己呢?”墨子衡质问,“比如拒绝进食,或者在有风险的情况下坚持独自外出?”
“那就介入。”我说,“但不是替他选,是回到他清醒时设定的那个‘自己’面前,问:如果现在的你会伤害未来的你,你允许我们阻止吗?”
沉默。
全息屏上的第三个选项框彻底亮了。
系统女声用平缓的语调说:隐藏选项已激活。根据初代设计者苏见明的优先权限,现将《上帝协议草案》标记为‘高风险提案’,冻结所有相关实验,等待全球伦理委员会公投。
“不!”墨子衡冲向操作台,但屏幕已经锁死。
他猛地转身,盯着苏怀瑾:“你以为这样就能阻止?技术不会停下,需求不会消失。今天压下去,明天会有更激进的人用更隐蔽的方式继续。你只是在拖延时间!”
“拖延时间,好让更多人想清楚。”苏怀瑾放下木杖,蓝光渐渐熄灭,“墨子衡,我父亲失踪前最后对我说的话是:‘科技跑得太快时,要记得在地上插路标——不是阻止前进,是提醒方向。’”
实验室的门突然滑开。
几个穿安保制服的人站在门口,但领头的不是公司保安,而是老陈头。
他手里没拿工具,就那样空手站着,背微微佝偻,但眼睛亮得惊人。
“墨总工,上层通知您去开会。”老陈头的声音很平静,“关于违规使用未注册实验室的事。”
墨子衡看着老人,又看看我们,最后笑了。
笑得很疲惫。
“好,我去。”他脱下实验服,整整齐齐叠好放在操作台上,“但记住,你们今天选的这条路,比我的更难走。定制化意味着海量的计算资源,无穷的伦理纠纷,还有……必须眼睁睁看着有些人因为自己的选择而受苦。”
他走向门口,经过我身边时停了停。
“宇弦,你祖母如果还活着,你会让她自己选吗?哪怕她可能选错?”
我直视他的眼睛:“会。”
“为什么?”
“因为那是她的人生。”
墨子衡走了。安保人员跟着离开,老陈头却留了下来。
他走到操作台前,看了眼那些还在滚动的屏幕,然后从口袋里掏出一个老式U盘,插进接口。
“小子,帮个忙。”他对李唯说,“把这玩意里的代码上传到星核网络的主备份库——用苏老的权限。”
“这是什么?”李唯问,手指已经在操作。
“我们这些老维修员二十年攒下的‘民间补丁’。”老陈头笑了,皱纹堆在一起,“全是些小玩意:怎么让机器人学会听方言,怎么识别老人没说出口的需求,怎么在紧急情况下优先保护‘人味’而不是效率……乱七八糟的,但或许有用。”
代码上传的进度条开始跳动。
苏怀瑾看着,忽然问:“老陈,你当年为什么愿意帮我父亲?”
“因为他给我看了设计图。”老陈头摸出根烟,没点,就放在鼻子下闻着,“那么复杂的系统,核心算法里却留了一行注释:‘此处应有犹豫’。”
“犹豫?”
“机器做决定太快了,快得不像人。”老人望向窗外的虚拟城市,“人做决定时会犹豫,会害怕,会反复权衡——那不是什么缺陷,那是我们在对自己负责。苏工懂这个,所以我相信他。”
进度条走到百分之百。
系统女声再次响起,但这次语调有了微妙的不同,像是多了一丝……温度?
‘民间经验库’已整合。正在重新校准情感算法权重……校准完成。新增优先级原则:当效率与尊严冲突时,默认选择后者。
李唯愣愣地看着屏幕:“这就……改完了?”
“改不完。”苏怀瑾摇头,“这只是个开始。真正的难题在明天,后天,十年后——当越来越多人老去,当技术越来越强大,我们怎么守住那条线:科技服务人,而不是重新定义人。”
我转身离开实验室。
走廊还是一片漆黑,但远处电梯间的指示灯亮着。
林星核的声音在耳边响起:“墨子衡被暂时停职,但技术原教旨派的核心成员还在活动。我刚截获消息,他们计划在三天后的‘全球康养科技峰会’上公开另一份提案——《意识永生白皮书》。”
“内容?”
“比上帝协议更激进。”她顿了顿,“主张彻底取消生物躯体的法律人格地位,将‘人类’的定义改为‘任何拥有连续自我意识的智能实体’。”
“那就是说,一个AI如果通过图灵测试,就享有和人一样的权利。”
“而一个选择留在肉体里的人,反而会成为……少数群体。”
我走进电梯,按下上升键。
门缓缓关闭时,我看见走廊尽头的老陈头还站在实验室门口,那点烟头的红光在黑暗里一明一灭,像旧时代的灯塔。
“星核。”我说。
“嗯?”
“你父亲当年留下的那颗‘种子’,除了伦理锁,还有什么?”
通讯那头沉默了很久。
“还有一份名单。”她的声音很轻,“列出了他认为永远不会被技术动摇的、人之为人的二十三件事。第一条是:‘明知会输,依然选择的勇气。’”
电梯开始上升。
数字跳动:负五,负四,负三……
我想起祖母最后一次自己做的选择:拔掉输液管,让护士扶她坐到窗边,看了一场完整的日落。
那时她已说不出话,但握住我的手,在掌心慢慢写了一个字:
值。
电梯门开,我走进凌晨空旷的大厅。
落地窗外,城市正在醒来。第一缕晨光照在远处的康养社区楼顶,那里有几个早起的老人在打太极,动作缓慢但整齐。他们身边站着新一代的护理机器人,安静地待命,没有催促,没有干预。
只是陪着。
我抬起手腕,熵减手环的屏幕自动亮起,显示着几条新消息:
苏怀瑾发来的会议邀请,主题是“组建生命宪法起草委员会”。
老陈头发来一个坐标,附言:“记忆茶馆,新茶到了,有空来喝。”
还有一条匿名信息,只有两个字:
看海。
我认得那加密格式。是忘川,那个记忆商人。
走到大楼门口时,警卫机器人用温和的女声说:“宇弦调查官,今日室外温度较低,建议添衣。”
我点点头,推开门。
冷风灌进来,带着这个季节特有的、灰尘和远山混合的味道。
人的味道。
我深吸一口气,走进晨曦里。
(第61章完。字数:9027字)