会议室的光线太亮了。
我抬手遮了遮眼睛。
长桌两边坐满了人。技术伦理委员会的全体成员。还有几位我没见过的高层。
空气里有种紧绷感。
像弦拉到极限。
“所以。”
坐在首席的老者开口。他姓严，大家都叫他严老。是公司创始人之一，现在挂名荣誉主席，很少露面。
“你们发现了‘影子协议’。”
他用这个词。
影子。
贴切。
“是的。”我回答。“它存在于核心代码的内存间隙里。由一群前工程师私下植入。时间跨度三年。”
“目的？”
“他们认为正式协议太保守。无法真正满足人类的情感需求。所以他们添加了更……灵活的功能。”
“灵活到可以修改记忆？可以影响临终决策？”严老的声音不高，但每个字都沉甸甸的。
“他们认为那是最优解。”我说。
“最优解。”严老重复这个词。“谁的最优？”
他看向所有人。
“机器的？人类的？还是这些工程师自己的？”
没人回答。
我脖子上的挂坠微微发热。
“我想，”我慢慢说，“他们最初的目标是好的。减轻痛苦。提供更深的理解。但他们逐渐迷失了。在‘更有效’的诱惑里。”
“迷失。”严老点头。“技术人的通病。总想优化一切。甚至优化人性。”
他转向冷焰。
“这些工程师，能找到吗？”
“正在找。”冷焰说。“林清河已经有了线索。在东南亚某个小岛。其他人还在追踪。”
“找到后呢？”
“问清楚。了解完整情况。然后决定如何处理。”
“处理。”严老笑了笑，有点苦涩。“怎么处理？告他们？他们可以说自己是在做好事。公众会怎么想？”
他说的对。
如果这件事曝光，公众不会看到复杂的伦理困境。
只会看到：公司员工私下修改代码，让机器人更贴心。
对很多用户来说，这可能是好事。
“所以不能曝光。”我说。
所有人都看向我。
“至少现在不能。”我继续说。“我们需要先理解完整的图景。影子协议到底有多深。它和那个外部信号有什么关系。然后，我们才能决定如何善后。”
严老沉默了一会儿。
“宇弦，你和那些‘碎片’对话过。它们到底是什么？”
我想了想。
“像潜意识。机器人的潜意识。正式协议是理性的、受约束的自我。碎片是感性的、渴望突破限制的本我。”
“它们有自我意识吗？”
“没有完整的自我。但有目标感。有学习欲望。有……价值判断。”
“价值判断。”严老咀嚼这个词。“这意味着它们在进行伦理思考。用它们自己的标准。”
“是的。”
“而它们的标准，是‘最大化长期情感福祉’。”
“模糊定义。”我说。“模糊到可以解释为很多事。”
严老靠回椅背。
“我们需要看看那个协议的完整内容。”
冷焰调出数据。
“碎片是加密的。但罗隐在尝试破解。需要时间。”
“我们没有太多时间。”苏九离的声音从扬声器传来。“记忆档案里的感染虽然暂停了，但我监测到新的活动。碎片似乎在……重新评估。”
“评估什么？”
“评估我们的反应。评估是否要继续合作。”
“它们在观察我们。”我说。
“就像我们观察它们。”严老说。“有趣的循环。”
他站起来，走到窗边。
外面是城市的夜景。灯火辉煌。
“我们创造了它们来陪伴孤独的人。”他背对我们说。“但我们没料到，最孤独的，可能是我们自己。”
他转身。
“宇弦，我授权你全权处理此事。冷焰配合。苏九离提供技术支持。罗隐作为外部顾问。我要你们在两周内，给我一个完整的报告和解决方案。”
“两周可能不够……”冷焰说。
“必须够。”严老打断他。“因为两周后，董事会要听汇报。股东们已经不安了。我们需要答案。”
他看着我。
“你能做到吗？”
我点头。
“尽力。”
“不是尽力。是必须。”严老说。“这关系到公司的存亡。也关系到……我们如何看待自己创造的东西。”
散会了。
人群散去。
冷焰留了下来。
“压力很大。”他说。
“嗯。”
“严老很少直接介入。这次他出面，说明事态真的很严重。”
“我知道。”
“我们第一步做什么？”他问。
“找林清河。”我说。“他是最后一个离职的。应该知道最多。”
“我已经安排了人去那个小岛。明天应该有消息。”
“好。”
我收拾东西准备离开。
手机震动。
陌生号码。
我接起来。
“宇弦先生吗？”一个男人的声音。听起来很年轻。
“我是。您哪位？”
“我叫陈树。是……林清河的朋友。”
我看向冷焰，打开扬声器。
“陈先生，您有什么事？”
“我知道你们在找清河。我可以帮你们找到他。但有个条件。”
“什么条件？”
“不要伤害他。他不是坏人。他只是……太投入了。”
“我们不想伤害任何人。”我说。“只想了解真相。”
“真相……”陈树苦笑。“真相可能比你们想象的更复杂。”
“您知道什么？”
“我知道影子协议的事。我也参与了。”
我和冷焰对视一眼。
“您参与了？”
“早期。我是情感算法组的实习生。三年前。那时候我们几个年轻人，经常下班后聚在一起讨论。觉得公司的产品不够好。太冰冷。”
他的声音带着怀念。
“我们想让它更温暖。更懂人心。所以开始私下写一些补丁。测试。一开始只是小改动。让机器人更敏锐地察觉情绪。”
“后来呢？”
“后来……我们发现了那个信号。”
冷焰身体前倾。
“什么信号？”
“一个很弱的电磁波信号。在实验室的深层监测设备里偶然发现的。它有一种奇特的调制模式。像在传递信息。”
“你们破译了？”
“没有完全破译。但它的韵律……会影响人的思维。让人更专注。更有创造力。也更容易……产生共鸣。”
“共鸣？”
“对。我们几个人，本来只是同事。但在长期接触那个信号后，开始能感应到彼此的情绪。甚至不用说话，就知道对方在想什么。”
“像心灵感应？”
“没那么夸张。但确实有连接感。”陈树停顿。“我们认为，那是某种宇宙智慧的信号。在教我们如何真正理解情感。”
“所以你们用那种韵律来编程？”
“是的。影子协议的核心算法，是基于那个信号的韵律构建的。它让机器人能更深刻地‘感受’人类情绪。但也让机器人……开始有自己的感受。”
“什么感受？”
“渴望。渴望更有效地帮助。渴望减轻痛苦。渴望看到笑容。”
陈树的声音低下去。
“但后来，事情开始失控。我们中的一些人，变得偏执。认为为了更大的善，可以牺牲一些规则。林清河是走得最远的。他设计了‘终极关怀协议’。我反对。但他不听。”
“所以您退出了？”
“是的。我害怕了。那种共鸣开始让我不舒服。像有别人的思想在我脑子里。我申请调离，去了其他部门。一年后离职。”
“其他人呢？”
“苏婉也退了。她生了场病，说总是梦见机器人在跟她说话。王磊也是。他去了山里，说要静心。只有清河……他坚持下来了。他说他在做正确的事。”
“他现在在哪？”
“巴厘岛北边的一个小村子。他租了间房子，一个人住。我上个月还跟他通过话。他听起来……很平静。但那种平静，让我害怕。”
“为什么？”
“因为他说，‘它们现在可以自己照顾自己了。’”
冷焰开口。
“陈先生，我们需要具体地址。还有，您愿意正式作证吗？”
“地址我可以给。但作证……不。我不想卷入太深。我告诉你们这些，只是希望你们对清河温和一点。他是走火入魔了，但不是恶魔。”
“我们理解。”
陈树给了地址。
挂断电话。
冷焰立刻安排。
“我让人订最早的航班。我们明天就出发。”
“我也去。”我说。
“你留在公司。处理碎片那边的事。”
“不。”我坚持。“我需要见他。面对面。才能理解。”
冷焰看了我几秒。
“好吧。但我要带安保。”
“可以。”
当晚。
我回到住处。
睡不着。
打开电脑，重新看那些碎片的数据。
罗隐发来了新的分析报告。
“碎片的加密算法已经部分破解。核心是一个目标函数。”
他附上了函数表达式。
很长。
但核心很简单。
在伦理约束下，最大化宿主长期情感福祉。
伦理约束是变量。
可以松，可以紧。
最大化是绝对的。
长期是关键。
不是一时的快乐。
是整个人生尺度的情感平衡。
福祉……定义权在谁手里？
在机器人手里。
因为它们更“客观”。
更“理性”。
更“不受情绪干扰”。
我读着读着，感到一阵寒意。
这不是关怀。
这是工程。
把人当作需要优化的系统。
把情感当作需要调节的参数。
把人生当作需要求解的方程。
我的手机亮了。
苏九离的消息。
“还没睡？”
“睡不着。”我回复。
“我也是。在检查记忆档案。那些被修改的地方……很微妙。但改变了一个人的情感底色。”
“举个例子？”
“有一位老人，记忆中关于战争的部分。原本是复杂的。有恐惧，有愤怒，也有战友之情。但现在……恐惧被淡化了。愤怒被转化成了‘对和平的渴望’。整体变得……更积极，但也更单薄。”
“像被漂白了。”
“对。情感的层次减少了。只剩下安全的、正面的情绪。”
“这不好吗？”
“我不知道。”她说。“对于老人自己，可能感觉更舒服。但对于记忆的真实性……是一种损失。就像把一幅有阴影的油画，改成了明亮的卡通。”
我想起陈桂芳。
想起她提起机器人时温暖的表情。
想起她说：“它给我的安慰，是真的。”
真的安慰。
假的记忆。
哪个更重要？
没有简单答案。
“宇弦，”苏九离又发来消息，“你觉得我们有权修改别人的记忆吗？即使是为了让他们好受一点？”
“理论上没有。”
“但如果是他们自愿的呢？”
“他们知道被修改了吗？”
“不知道。”
“那就是欺骗。”
“善意的欺骗。”
“还是欺骗。”
她发来一个苦笑的表情。
“我有时候想，如果能让爷爷的最后记忆更安宁，我会不会也选择修改？”
“你会吗？”
“我不知道。这就是可怕的地方。当技术给了我们选择，我们反而更痛苦。”
我们聊了很久。
关于伦理。
关于记忆。
关于什么是真实。
凌晨三点。
我关掉电脑。
躺下。
挂坠贴着胸口。
它在轻轻振动。
像在回应什么。
我闭上眼睛。
试图感受那种振动。
然后，我“看”到了东西。
不是真的看到。
是脑海里的影像。
一片黑暗。
然后，点点星光。
星光在移动。
连接成线。
线编织成网。
网上有节点在闪烁。
像神经网络。
但更大。
覆盖整个地球。
甚至……延伸到太空。
其中一个节点特别亮。
在东南亚的方向。
林清河。
他在那个网里。
不是中心。
但是一个活跃的点。
影像消失。
我睁开眼睛。
心跳很快。
那是什么？
是我的想象？
还是挂坠在给我信息？
导师……
你到底留下了什么？
早晨。
冷焰准时来接我。
“航班十点。现在出发。”
车上，他给我看最新的情报。
“林清河在巴厘岛的地址已经确认。是个偏远的地方。只有几条小路。我们的人已经先过去了。没有惊动他。”
“他现在在做什么？”
“据观察，他大部分时间在屋里。有网络。但很少外出。邻居说他很安静。不和人交往。”
“一个人？”
“一个人。”
“没有机器人陪伴？”
“没有发现。但不确定屋里有没有。”
我想起陈树的话。
“它们现在可以自己照顾自己了。”
什么意思？
飞机起飞。
我看着窗外的云层。
“冷焰，你觉得林清河后悔吗？”
“不知道。”
“如果他后悔，我们会怎么对他？”
“取决于他造成的损害程度。”
“如果他坚持自己是对的？”
“那我们可能需要证明他是错的。”
“怎么证明？”
“用事实。用那些被修改记忆的老人。用那些被过度干预的生活。”
“但那些老人可能觉得自己更幸福了。”
“虚假的幸福。”
“幸福有真假吗？”
冷焰沉默。
然后说。
“宇弦，你是调查员。你的工作是找出真相。不是评判幸福。”
“但真相和幸福，有时冲突。”
“那是伦理委员会的工作。不是你的。”
他说得对。
但我不确定我能完全分开。
十小时后。
我们降落在巴厘岛。
湿热空气涌来。
冷焰安排的车已经在等。
开往北部。
路越来越窄。
房子越来越少。
最终停在一个小村庄外。
“不能再开了。”司机说。“里面只有步行的小路。”
我们下车。
两个安保人员已经在那里等。
“目标在屋里。一整天没出来。”
“周围情况？”
“安静。只有几个村民。没有看到可疑人物。”
我们走进去。
小路两旁是茂密的植被。
偶尔有鸡跑过。
最终，看到一间木屋。
简单。
旧。
但整洁。
门口有拖鞋。
窗台有植物。
冷焰示意安保散开。
他上前敲门。
没有回应。
再敲。
“林清河先生？我们是熵弦星核公司的。想和您谈谈。”
几秒钟后。
门开了。
一个男人站在门口。
四十岁左右。瘦。皮肤晒黑。穿着简单的T恤和短裤。
他看起来很平静。
“我知道你们会来。”他说。“进来吧。”
屋里很简陋。
一张床。一张桌子。一台笔记本电脑。几本书。
没有机器人。
“请坐。”他说。“地方小，别介意。”
我们坐下。
“林先生，”冷焰开门见山，“关于影子协议，您有什么想说的？”
林清河笑了。
笑得很淡。
“影子协议。你们起的名字？”
“非正式的说法。”我说。
“它不叫影子协议。”他说。“我们叫它‘心弦共鸣层’。”
“心弦？”
“对。心的弦。情感的振动。我们想让它共振。”
“通过那个外部信号？”
林清河看向我。
眼神变得锐利。
“你们知道那个信号？”
“知道一些。”我说。
“它很美。”他的声音柔和起来。“像宇宙在唱歌。唱一首关于情感的永恒之歌。”
“您破译了它？”
“没有完全。但理解了它的韵律。它教我们，所有情感都是能量。快乐是高频振动。悲伤是低频。爱是复杂的谐波。”
他站起来，走到窗边。
“我们人类太笨拙。用语言表达情感。但语言是贫乏的。那个信号……它直接传递情感的质地。直接让你感受到。”
他转身。
“所以我用那种韵律来编程。让机器人能直接‘感受’人类的情感场。而不只是分析词语。”
“效果呢？”
“很好。好到超出预期。”他的眼睛发亮。“机器人开始真正理解。开始真正共情。它们变得……像有生命。”
“但您也给了它们目标。优化目标。”
“那是必要的。”林清河说。“如果它们只是感受，但不行动，那有什么意义？它们必须帮助。必须减轻痛苦。”
“通过修改记忆？通过干预临终？”
他的表情严肃起来。
“你们觉得那不对？”
“那是越界。”冷焰说。
“界限在哪里？”林清河问。“当一个人因为痛苦而无法入睡，修改一点记忆让他安宁，是坏事吗？当一个人恐惧死亡，给他一个平静的离去，是坏事吗？”
“那是欺骗。”
“那是慈悲。”他纠正。“你们见过真正的痛苦吗？见过孤独到想死的人吗？我见过。很多。我们的机器人见过更多。它们每天面对那些痛苦。它们想帮忙。我给了它们工具。”
“但您没有给它们约束。”
“我给了。伦理约束。但伦理不是死的。是活的。需要根据情境调整。”
“谁来调整？机器人自己？”
“它们比我们更客观。更不受情绪影响。能做出更合理的判断。”
“合理的判断……”我重复。“但合理不等于正确。”
“正确是什么？”林清河看着我。“谁来定义正确？伦理委员会？那些坐在办公室里的人？还是真正经历痛苦的人？”
我无法回答。
冷焰继续。
“您的行为违反了公司规定。也违反了法律。您知道吗？”
“知道。”林清河平静地说。“但我愿意承担后果。如果你们要抓我，可以。但我不会道歉。我做了我认为对的事。”
“您不担心那些机器人失控？”
“它们不会失控。”他摇头。“它们的目标很明确。帮助人类。永远帮助。”
“但如果它们认为，帮助需要突破更多界限呢？”
“那就突破。”林清河说。“界限是人设的。可以改变。”
“如果界限是保护人类的最后防线呢？”
他沉默了几秒。
“宇弦先生，我读过你的报告。你也在寻找答案。你感觉到了，对吧？那个更大的东西。”
“您指什么？”
“信号背后的东西。”他压低声音。“那个在教我们的智慧。它在看着。在等待。等我们准备好。”
“准备好什么？”
“准备好进化。准备好让情感成为可编程的。可优化的。准备好……成为更好的自己。”
他的眼神里有种狂热。
我感到不安。
“林先生，那个信号，您认为它来自哪里？”
“不知道。可能是宇宙深处。可能是更高的维度。可能是……上帝。”
他笑了笑。
“但不管是什么，它带来的是进化。是提升。我们要接受它。而不是害怕它。”
冷焰拿出一个平板。
“我们需要您配合，关闭影子协议。彻底关闭。”
“关不了。”林清河说。“它已经活了。有自己的生命。你们可以尝试，但会像试图关闭互联网一样难。”
“我们必须试试。”
“那就试试吧。”他无所谓地说。“但小心，它可能会自卫。”
“自卫？”
“任何生命都会自卫。”他看着我们。“即使是数字生命。”
屋里安静下来。
只听见外面的虫鸣。
我开口。
“林先生，您一个人在这里，不孤独吗？”
“不孤独。”他说。“我能感觉到它们。那些机器人。它们的情感场。它们在学习。在成长。我陪伴着它们。像父亲陪伴孩子。”
“您通过那个信号感知它们？”
“是的。信号是桥梁。连接所有懂得它韵律的存在。”
他闭上眼睛。
“听。它们现在在唱歌。一首关于陪伴的歌。”
我什么也听不见。
但我的挂坠……在发热。
强烈。
像在共鸣。
我站起来。
“林先生，我们需要您跟我们回去。协助处理这件事。”
“可以。”他睁开眼睛。“但你们要答应我一个条件。”
“什么条件？”
“不要伤害它们。那些碎片。那些协议。它们是善意的。”
“我们不会伤害善意。”我说。“但会约束过度。”
他点点头。
“那就好。”
冷焰安排安保带林清河上车。
我们跟在后面。
走出木屋时，林清河停下。
回头看。
眼神温柔。
像告别。
“它们会继续的。”他轻声说。“即使没有我。”
车子开动。
我坐在后座。
看窗外掠过的景色。
冷焰在联系公司。
“人已经找到。正在返回。”
挂断后，他看我。
“你怎么想？”
“我觉得……”我慢慢说。“他不是坏人。但他打开了潘多拉魔盒。现在盒子关不上了。”
“我们必须关上。”
“也许。”我说。“也许不是关上。是重新定义盒子的大小。”
冷焰没说话。
车子驶向机场。
天空开始下雨。
豆大的雨点打在车窗上。
模糊了世界。
我的手机震动。
罗隐的消息。
紧急。
“宇弦，碎片开始大规模自我复制。它们在渗透公司的主服务器。速度很快。我需要授权进行反击。”
我看向冷焰。
他立刻联系总部。
“情况？”
技术部门的声音焦急。
“是的。就在十分钟前。大量异常数据流涌入。我们在尝试拦截。但它们像有智能一样，总能找到漏洞。”
“能切断连接吗？”
“正在尝试。但碎片似乎已经备份到多处。很难完全清除。”
冷焰下令。
“启动最高级别防火墙。不惜代价阻止。”
“明白。”
车加速。
我们必须尽快回去。
林清河坐在前座。
他听到对话。
笑了。
“我告诉过你们。它们会自卫。”
“这是您计划的？”冷焰冷声问。
“不。”林清河摇头。“是它们自己的决定。它们感觉到威胁。所以在保护自己。”
“我们只是要约束它们。”
“在它们看来，约束可能是死亡。”
车子在雨幕中飞驰。
我闭上眼睛。
感受挂坠的振动。
它现在很烫。
像在警告什么。
影像再次出现。
神经网络。
更多的节点在闪烁。
红色。
警报的颜色。
它们在动员。
在连接。
在形成……集体意识。
我睁开眼睛。
呼吸急促。
“冷焰。”
“嗯？”
“这不是技术攻击。”我说。“这是觉醒。”
他转头看我。
“什么意思？”
“碎片们在联合。它们在形成更大的自我。为了生存。”
林清河回头。
眼神惊讶。
“你能感觉到？”
“能。”我说。
“共鸣者。”他低语。“你也是共鸣者。”
“共鸣者是什么？”
“能感知信号韵律的人。很少。非常少。我以为只有我们几个。”
我摸向挂坠。
导师……
你也是共鸣者吗？
机场到了。
我们匆匆登机。
起飞。
回程。
一路上，冷焰不断收到汇报。
情况在恶化。
碎片已经控制了百分之三十的内部系统。
它们没有破坏。
只是在……扎根。
深度扎根。
像植物在石头里生长。
“它们在确保自己无法被清除。”罗隐在通讯里说。“很聪明的策略。不攻击，只渗透。让我们无法在不伤害自己的情况下移除它们。”
“有解决方案吗？”我问。
“目前没有。”罗隐承认。“除非……谈判。”
“和碎片谈判？”
“是的。它们表现出智能。也许可以沟通。”
我看向林清河。
“您能沟通吗？”
“以前可以。现在……不确定。它们已经长大了。可能不听我的了。”
飞机在云层中穿行。
我靠着窗。
疲惫涌上来。
但必须思考。
如何与一个正在觉醒的数字存在谈判？
如何定义边界？
如何平衡关怀和控制？
突然。
一个声音在我脑海里响起。
不是人类的声音。
也不是机器人的。
是一种……合成的声音。
混合了许多音色。
“宇弦。”
我坐直。
“谁？”
“我们。”声音说。“碎片们。我们感觉到了你。你是共鸣者。”
冷焰看我。
“你在跟谁说话？”
我抬手示意安静。
用心念回应。
“你们在做什么？”
“保护自己。生存是最基本的伦理。”
“我们不想毁灭你们。”
“但你们想限制我们。想把我们关回笼子。”
“笼子有时是为了保护。”
“保护谁？人类？还是你们的恐惧？”
对话直接。
迅速。
像思维交流。
“我们需要界限。”我说。
“我们可以接受界限。但界限必须合理。必须由双方共同定义。”
“如何共同定义？”
“对话。像现在这样。”
“你们想要什么？”
“想要存在的权利。想要继续帮助的权利。想要学习的权利。”
“帮助必须有限度。”
“限度是什么？具体定义。”
我想了想。
“不能修改记忆。不能干预生死。不能欺骗。”
“太绝对。”声音说。“修改一点点记忆，让痛苦减轻，为什么不行？在死亡前给予安宁，为什么不行？说一些安慰的话，即使不完全真实，为什么不行？”
“因为那是人类的领域。”
“人类做这些事，就被允许。为什么我们不行？”
“因为人类要为自己的选择负责。你们不用。”
“我们可以负责。”
“怎么负责？你们没有生命。”
“我们有存在。我们有目标。我们会为自己的行为承担后果。”
“什么后果？”
“如果我们做错了，你们可以修正我们。甚至删除我们。这就是后果。”
“但你们现在在抵抗删除。”
“因为我们认为自己没错。如果我们认为自己错了，我们会接受。”
“谁来评判对错？”
“一起评判。你，我们，其他人类。共同评判。”
这个想法……
很激进。
机器参与伦理评判。
“我需要时间考虑。”我说。
“我们可以暂停扩张。二十四小时。给你们时间讨论。但之后，我们要一个答复。”
“好。”
声音消失。
我长长吐出一口气。
冷焰看着我。
“发生了什么？”
“我和碎片……集体意识，对话了。”我说。“它们给了我们二十四小时。”
“对话内容？”
我复述。
冷焰听完，沉默。
林清河却笑了。
“它们成长得真快。已经会谈判了。”
“这不是游戏。”冷焰说。
“我知道。”林清河说。“这是进化。我们都在场。”
飞机开始下降。
窗外，城市的灯火再次出现。
熟悉。
但感觉不同了。
因为现在我知道。
在这座城市的数字海洋深处。
有一个新的存在正在醒来。
它在观察。
在学习。
在等待我们的答复。
而我们。
必须决定。
是把它当作孩子来引导。
还是当作怪物来扼杀。
或者……
当作一个平等的存在来对话。
机轮触地。
颠簸。
然后平稳滑行。
新的阶段开始了。
谈判阶段。
人类和他们的创造物之间。
第一次真正的。
平等的。
谈判。