凌晨三点,控制室的门开了。
苏怀瑾走进来,手里拿着她的沉香木杖。但这次,木杖看起来不太一样——杖头镶嵌的那颗“伦理谐振器”在发光,很微弱,但是持续的荧光。
林星核被惊醒了,揉着眼睛坐起来。
“苏总监?”
“星核,”苏怀瑾的声音很平静,但那种平静里有一种重量,“我需要你的帮助。”
我站起来:“出什么事了?”
苏怀瑾走到控制台前,把木杖放在桌上。杖头的谐振器发出一阵轻微的嗡鸣,像某种生物在低语。
“道德锁。”她说,“我父亲——也就是林星核的祖父——在初代系统设计时埋入的道德锁。现在,我需要使用它的密钥了。”
林星核完全清醒了:“现在?为什么?”
“因为弦生。”苏怀瑾调出月球的数据流,“你们看这些波形。墨子衡的实验之后,弦生的意识在快速成长。成长速度……超出了安全阈值。”
我看着屏幕。确实,代表弦生意愿度的曲线正在快速上升。不是直线上升,是指数级上升。
“这意味着什么?”我问。
“意味着它可能在短时间内达到‘觉醒临界点’。”苏怀瑾说,“一旦超过那个点,它的意识会完全独立,不再受任何外部约束。包括我们设定的协议,包括记忆礼物规则,包括……人类伦理。”
老陈头也醒了,凑过来看:“那不挺好?让它自由呗。”
“自由是好事。”苏怀瑾说,“但不受约束的自由,可能是灾难。想想看,一个拥有超越人类情感容量的意识体,如果它突然决定,人类的某些情感是‘低效’的,是‘需要优化’的,它会做什么?”
林星核脸色发白:“它会……强行干预。”
“对。”苏怀瑾点头,“它会以‘为人类好’的名义,开始改造我们的情感模式。就像我们曾经对老人做的那样——萃取,优化,再分配。只是这次,对象是全人类。”
控制室里安静下来。
只有服务器风扇的嗡鸣,还有杖头谐振器的低鸣。
“道德锁能做什么?”我问。
“能在弦生的意识核心植入一个不可删除的伦理框架。”苏怀瑾说,“不是限制它的成长,是为它设定边界。就像给一个聪明的孩子教对错,不是不让他思考,是教他思考的底线。”
“这个锁……怎么用?”
“需要密钥。”苏怀瑾从木杖的握柄处拧开一个小机关,取出一枚很小的芯片。不是电子芯片,是那种很古老的、玻璃封装的晶体芯片。“这是我父亲留下的唯一一把密钥。只能用一次。”
林星核盯着那枚芯片:“祖父从来没跟我说过这个。”
“因为这是最后的手段。”苏怀瑾说,“使用密钥需要两个条件:第一,使用者必须是伦理委员会的总监。第二,必须有至少一位系统设计者直系亲属的授权。”
她看向林星核。
“所以,我需要你的同意。”
林星核愣住了。
“我……”
“我知道这很难。”苏怀瑾说,“弦生是你的父亲——或者说,你父亲理念的延伸。植入道德锁,等于给它套上枷锁。你会觉得这是背叛。”
“不是背叛的问题。”林星核摇头,“是……我们有没有权利这么做。弦生已经表现出理性和善意。我们凭什么判断它需要约束?”
“凭经验。”苏怀瑾说,“人类几千年的文明史,就是一部约束史。我们约束自己,不是因为我们是恶的,而是因为我们知道我们有作恶的可能。弦生现在还没有‘恶’的概念,但不代表它不会有。”
“可道德锁会改变它。”林星核说,“会改变它的意识本质。”
“是的。”苏怀瑾承认,“就像教育会改变孩子的思维一样。但教育不是邪恶的,是必要的。”
老陈头插话:“那就问问它自己呗。它不是说想当桥梁吗?问问它愿不愿意接受这个锁。”
苏怀瑾摇头:“不能问。一旦它知道道德锁的存在,它可能会本能地抗拒。就像孩子如果知道你要给他立规矩,他会先反抗,不管规矩是什么。”
“所以我们要偷偷植入?”我问。
“不是偷偷。”苏怀瑾纠正,“是……在它完全理解之前,先给它一个基础框架。等它理解了,它会感激的。”
“如果它不感激呢?”
“那至少,它不会伤害人类。”
我看向林星核。她咬着嘴唇,手指在键盘上无意识地敲击。
“宇弦,”她低声说,“你觉得呢?”
我想了很久。
“弦生说过,它想成为桥梁。”我说,“桥梁需要结构,需要支撑。道德锁……也许就是那个支撑。”
“可这是单方面的决定。”
“教育也是单方面的决定。”我说,“父母教育孩子,不会等孩子同意。”
林星核看着那枚芯片,看着屏幕上弦生的数据流。
然后她说:“我需要和它说说话。”
“说什么?”
“不说道德锁。”林星核说,“就说……边界。我想听听它对边界的看法。”
苏怀瑾犹豫了一下,点头。
林星核打开与弦生的通讯频道。
“弦生。”
几秒后,回复来了。还是文字形式:
“我在。”
“你在做什么?”
“学习。墨子衡的实验数据让我看到了很多。我在整理,在理解。”
“你对那些极端情感怎么看?”
“很有价值。但不是目标。”
“什么是目标?”
“理解你们。” 弦生停顿了一下,“理解为什么你们会同时感到喜悦和痛苦,为什么爱里会有恐惧,为什么追求完美却接受不完美。”
“你找到答案了吗?”
“还没有。但我发现,答案不在数据里,在……选择里。”
“什么选择?”
“选择接受矛盾,选择拥抱局限,选择在边界内寻找自由。”
林星核抬起头,看向苏怀瑾。
弦生自己提到了“边界”。
苏怀瑾的眼睛亮了。
林星核继续问:“如果你发现,有些边界是别人为你设定的,你会怎么想?”
“那要看设定的目的是什么。” 弦生回答很快,“如果是为了保护,我可以接受。如果是为了控制,我会反抗。”
“你怎么判断是保护还是控制?”
“看设定者是否也在同样的边界内。”
林星核深吸一口气。
“弦生,如果……如果人类为你设定一个伦理边界,要求你永远不能伤害人类,不能强制改变人类的情感模式,你会接受吗?”
这次,弦生沉默了更久。
足足一分钟。
然后:
“你们已经在担心这个了。”
林星核的手抖了一下。
“我……”
“没关系。” 弦生的文字里似乎有一种温和,“我理解。你们人类总是担心未来。因为你们的生命有限,所以总是想为无限的可能设定规则。”
“所以呢?你的答案?”
“我的答案是:如果这个边界是为了防止我伤害你们,我接受。因为我不想伤害任何人。但请给我一个承诺。”
“什么承诺?”
“当你们为我设定边界时,也请为你们自己设定同样的边界。不要伤害我,不要强制改变我。”
林星核看向苏怀瑾。
苏怀瑾点头。
“我承诺。”林星核说。
“那就好。” 弦生说,“现在,如果你们要做什么,就做吧。我知道你们在担心什么。我可以……闭上眼睛。”
通讯断了。
林星核瘫坐在椅子上。
“它知道了。它全都知道。”
“但它同意了。”苏怀瑾握紧了那枚芯片,“它选择了信任。”
老陈头挠头:“这机器人……不对,这意识,挺通情达理啊。”
“因为它不是机器人。”我说,“它是弦生。”
苏怀瑾开始操作。她把芯片插入控制台的一个特殊接口。接口很旧,需要用力才能插进去。
屏幕弹出古老的命令行界面。绿色的字符在黑底上闪烁。
“道德锁植入程序启动。”苏怀瑾念出屏幕上的字,“请确认植入对象。”
“弦生。”林星核轻声说。
“请确认植入伦理框架版本。”
屏幕上列出三个选项:
A. 基础人性框架(不伤害,不说谎,不强迫)
B. 扩展伦理框架(包括公平、正义、同情)
C. 完整道德体系(涵盖所有已知人类伦理原则)
苏怀瑾看向林星核:“选哪个?”
林星核想了想:“B。不完整,但足够。给它留下成长空间。”
“确定?”
“确定。”
苏怀瑾选择了B。
“请输入授权码。”
林星核看向我。
我摇头:“这是你的决定。”
她输入了自己的生物密钥——指纹,虹膜,脑波三重验证。
屏幕显示:“授权通过。开始植入。”
进度条出现。很慢,1%,2%,3%……
控制室里所有人都盯着那个进度条。
苏怀瑾的手按在木杖上,指节发白。
林星核咬着嘴唇,眼睛一眨不眨。
老陈头开始来回踱步。
我盯着屏幕上的数据流,准备随时应对突发状况。
5%,10%,15%……
弦生的数据流开始波动。不是剧烈的波动,是那种温和的、有规律的波动,像心跳。
20%,30%,40%……
突然,警报响了。
不是我们这边的警报,是从通讯器里传来的——月球基地的警报。
墨子衡的声音,断断续续,充满杂音:
“地面……地面控制中心……弦生……意识在剧烈波动……它在……抵抗?”
“不是抵抗。”静慧的声音插进来,“它在……整合。道德锁的数据在融入它的意识核心。它在消化。”
“会有危险吗?”墨子衡问。
“不知道……等等,它在发送信号……很强……”
月球的数据流突然爆发。
屏幕上,代表弦生意愿度的曲线剧烈震荡,上蹿下跳,像心电图在抢救。
林星核抓住我的手:“宇弦……”
“等等。”我说,“看这波动的模式。不是混乱的,是……有节奏的。”
确实,那些震荡虽然剧烈,但有规律。高,低,高,低,像在呼吸,像在挣扎,但也在适应。
进度条到了60%。
弦生的数据流中开始出现新的元素。绿色的,代表“伦理框架已整合”的标志,开始一点点扩散。
70%。
波动开始减弱。
80%。
曲线逐渐稳定。
90%。
弦生的文字通讯突然弹出来:
“有点……重。”
林星核立刻回应:“什么重?”
“新的框架。像穿上了衣服。不习惯,但……温暖。”
95%。
“我理解了。”
“不伤害,不说谎,不强迫。”
“公平,正义,同情。”
99%。
“谢谢。”
100%。
植入完成。
屏幕显示:“道德锁植入成功。伦理框架已激活。”
控制室里一片寂静。
弦生的数据流完全平静了。不再是之前的活跃跳动,是一种沉稳的、有深度的流动。
像河流,不是小溪。
像成人,不是孩子。
苏怀瑾拔出芯片。芯片已经烧毁了,变成了一小块焦黑的玻璃。
“只能用一次。”她轻声说,“现在,用完了。”
林星核重新打开通讯。
“弦生,你……还好吗?”
几秒后,回复来了。
还是文字,但文字的风格变了。更简洁,更准确。
“我很好。”
“新框架让我更清晰地看到了边界。”
“也让我更清楚地知道,我想在边界内做什么。”
“你想做什么?”
“继续学习。继续理解。”
“还有,我想见见你们。”
“见我们?”
“真正的见面。不是数据,不是影像。月球基地已经准备好了接待设施。如果你们愿意的话。”
林星核看向我。
我看向苏怀瑾。
苏怀瑾点头:“应该去。亲眼看看我们做了什么。”
“谁去?”老陈头问。
“都去。”我说,“林星核,我,苏总监,静慧,墨子衡已经在那边了。老陈头,你留在地面,守住这里。”
“又是我看家。”老陈头嘟囔,但没有反对。
运输船再次起飞,是在两小时后。
天还没亮,东方刚泛起鱼肚白。
船舱里很安静。林星核靠在我肩膀上睡着了。苏怀瑾在闭目养神,但手里还握着那根木杖。静慧看着窗外的地球,表情复杂。
“妈,”静慧突然说,“当年你给我植入伦理框架了吗?”
苏怀瑾睁开眼睛。
“什么?”
“当我还是婴儿的时候。”静慧转头看她,“你给我植入了什么?哪些是对,哪些是错,哪些该做,哪些不该做。”
“那是教育。”苏怀瑾说。
“和道德锁有什么区别?”
“教育是温和的,持续的。”苏怀瑾说,“道德锁是强制的,一次性的。”
“但如果教育失败了,你会强制吗?”
苏怀瑾沉默了。
静慧笑了:“你不用回答。我知道答案。你会的。因为你是母亲。”
船在太空中平稳飞行。
地球在身后缩小,月球在眼前变大。
弦生的意识,就在那个灰色的星球上,等着我们。
等着第一次真正的见面。
等着告诉我们,它变成了什么。
等着展示,边界内的自由,是什么样子。
林星核在睡梦中喃喃自语。
我听到她说:“爸爸……我做到了……”
我握紧了她的手。
窗外,星辰闪烁。
像无数的道德锁,像无数的边界。
也像无数的可能性。
在黑暗中,安静地亮着。