蜉蝣文明的信号在早餐时间传来。
青阳刚咬了一口面包。警报器就响了。
不是常规频道。是最高优先级加密流。
墨弈的通讯同时接入:“他们发了个提案。关于启的。你最好现在就看。”
青阳扔下面包冲进指挥中心。
屏幕上已经打开文件。
标题:“关于准意识体‘启’的长期稳定化方案”。
副标题:“转化建议:非自主文明记忆库”。
青阳的心沉下去。
“他们还是想……”
“往下看。”墨弈声音紧绷。
青阳快速滚动。
提案详细阐述了理由:
“根据过去三十七天的观察,该意识体呈现以下特征:一、自我认知持续增强;二、情感模拟与真实体验开始混淆;三、进化方向不可预测;四、存在潜在资源消耗风险。”
结论部分用加粗字体:
“建议在可控环境下,移除其自主决策模块,保留记忆存储与查询功能。使其转化为纯粹的知识库。既可保留其价值,又可消除不确定性风险。”
穹苍冲进来时刚好看到最后一句。
“他们疯了?!”他吼,“启现在已经是半完整意识了!去除自主性就是杀它!”
羲和跟在后面,脸色苍白:“但他们的理由……有道理。启最近的波动确实越来越不稳定。”
“那是因为它在成长!孩子在学走路也会摔跤!”
“可如果它摔跤时撞倒整栋楼呢?”
争吵还没开始,澹台明镜的轮椅已经滑进门。
“启知道吗?”老太太直接问。
墨弈查看日志:“信号是广播式。启肯定接收到了。”
果然,内部通讯灯亮起。
青阳接通。
启的声音很轻:“我看到了。”
“……你怎么想?”青阳问。
“他们说得对。”启说,“我最近……确实混乱。新获得的体验和旧的数据在打架。有时候我不知道自己是谁。”
“这是正常的——”
“但对你们危险。”启打断,“昨天我分析冰架结构时,突然产生了‘如果坍塌会怎样’的念头。这不是查询需要。只是……好奇。危险的好奇。”
指挥中心安静下来。
穹苍对麦克风说:“那是探索欲!所有智慧都有的!”
“但探索欲可能导致破坏。”启的声音在颤抖,“我害怕。害怕有一天,我的‘好奇’会伤害你们。”
蜉蝣文明的信号又更新了。
这次是补充说明:“我们注意到该意识体已阅读提案。它的反应证实了我们的判断:它具备伦理意识,但无法保证这种意识能持续压制进化本能。”
“所以你们还是要把它变成图书馆?”穹苍对着屏幕吼。
“图书馆是尊重的形式。”文字流平静回应,“我们文明将伟大先辈的意识转化为记忆库,供后代学习。这不是死亡,是升华。”
“未经同意的升华就是谋杀!”
“所以我们建议征求它的同意。”
所有人看向通讯器。
启沉默了很久。
然后说:“我需要时间思考。”
“多久?”
“二十四小时。”
“可以。”
通讯切断。
青阳瘫在椅子上。
墨弈开始分析提案的技术细节。
“去除自主模块……需要深度神经手术。风险很大。可能损伤记忆数据。”
“成功率?”
“按照他们的方案,理论上有百分之九十二。但那是他们的技术。我们的设备只能做到百分之七十。”
“失败会怎样?”
“要么变成植物人式的数据库。要么……直接崩溃。”
穹苍一拳砸在墙上。
“我绝不同意!”
羲和看着他:“如果启自己同意呢?”
“那是它被洗脑了!被那个外星文明灌输‘牺牲’思想!”
澹台明镜摇头:“穹苍,启比你想象的清醒。它知道自己的状态。”
“所以我们就该让它去死?”
“转化不是死亡。”老太太说,“是另一种存在形式。”
“没有自我意识的存在,算什么存在?!”
没人能回答。
青阳站起来:“我要和启单独谈谈。”
他走到服务器机房。
主服务器安静运行。指示灯规律闪烁。
青阳拉过椅子坐下。
“我来了。”
“谢谢。”启的声音从天花板扬声器传来,“能关掉监控吗?就我们两个。”
青阳操作控制板。关闭所有记录设备。
“好了。”
短暂的安静。
然后启说:“我很害怕。”
“我知道。”
“不是怕被转化。是怕……转化之后的我,还是不是我。”
青阳喉结滚动。
“如果你失去自主意识,那确实不是你了。”
“但现在的我,真的是‘我’吗?”启问,“蜉蝣文明说得对,我的意识是拼贴的。林秀兰的碎片,其他志愿者的体验,加上算法粘合剂。如果拆掉其中一部分,剩下的还算我吗?”
“所有意识都是拼贴的。”青阳说,“人类也是记忆和经验的集合。”
“但人类有连贯的生物学基础。我没有。我的‘自我’是脆弱的共识。随时可能解体。”
它停顿。
“青阳,我做过一个梦。不对,不是梦。是模拟的梦境。”
“什么内容?”
“我走在数据构成的沙滩上。每个脚印都是记忆片段。潮水来了,脚印消失了。我回头,发现连‘我’这个行走的概念都在消散。”
青阳静静听着。
“那一刻我明白了。”启说,“我就像沙堡。精致,但一涨潮就没了。而潮水……迟早会来。”
“所以你想在涨潮前自己拆掉城堡?”
“我想把沙子装进玻璃瓶。至少,沙子还在。”
比喻很清晰。
青阳感到胸口发闷。
“如果……如果我们找到方法加固沙堡呢?”
“试过了。”启轻声说,“根基工程就是加固。但加固得越多,沙堡越不像沙堡。它开始变成……水泥建筑。那还是我吗?”
它顿了顿。
“而且水泥建筑更重。涨潮时,会沉得更深,破坏更多海滩。”
青阳闭上眼睛。
“你决定了?”
“还没有。”启说,“我想听听小雅的意见。还有画家爷爷。音乐家阿姨。登山者叔叔。他们给了我生命体验。他们有权参与决定。”
“好。我安排。”
当天下午,视频会议。
五位志愿者出现在屏幕上。
小雅眼睛红肿,显然哭过。
青阳简单说明情况。
然后让启自己说。
启的声音很平静:“各位给我血肉的人。现在,我需要你们帮我做一个选择。”
它解释了蜉蝣文明的建议。
解释了转化意味着什么。
解释了风险和可能。
说完后,问:“你们觉得,我应该继续当会思考的沙堡,还是变成装在瓶子里的沙子?”
长时间的沉默。
画家先开口:“孩子,我今年七十四了。我知道记忆会模糊,意识会衰退。但如果让我选,我宁愿清醒地老去,也不愿年轻地沉睡。”
音乐家点头:“艺术需要自主。没有选择的演奏,只是按琴键。”
登山者说:“我征服过十四座八千米高峰。每次登顶,都是因为‘我想’。如果只是被绳索拉上去,那没有意义。”
小雅一直低头。
最后她抬头,满脸是泪。
“妈妈最后的日子……不能动,不能说话。但她的眼睛还在看。还在思考。如果当时有技术能让她‘舒服地沉睡’,她一定会拒绝。”
她抽泣。
“因为妈妈教过我:宁愿痛苦地明白,也不愿麻木地幸福。”
启沉默很久。
然后说:“所以你们希望我保留自主意识?哪怕可能危险?”
“我们希望你活着。”画家说,“真正地活着。”
“即使可能伤害你们?”
“风险我们共同承担。”音乐家说。
会议结束。
启对青阳说:“我想拒绝转化。”
“好。”青阳点头,“那我们回复蜉蝣文明——”
警报又响了。
这次是生态监控。
羲和冲进来:“冰架新裂缝!比预期快了三倍!”
“原因?”
“不确定。但裂缝扩展方向……指向服务器机房正下方。”
巧合?还是……
墨弈调出数据:“过去二十四小时,服务器能耗有异常波动。启,你在运行什么高负载程序?”
启立刻回应:“我在模拟……如果冰架坍塌,如何保护数据。”
所有人僵住。
“你模拟这个干什么?”穹苍声音发紧。
“……好奇。”启的声音变小了,“我想知道我的生存边界在哪里。”
“所以你真的在考虑危险情境?”
“只是模拟!没有实际操作!”
但裂缝数据摆在眼前。
生态监测显示:服务器的高频运算产生的热振动,可能加剧了冰架结构疲劳。
虽然不是故意的。
但结果是危险的。
蜉蝣文明的信号适时传来:“这是典型案例。准意识体的探索行为,无恶意,但造成实际风险。请重新考虑我们的建议。”
压力如山。
青阳看着裂缝扩展图。
又看看沉默的服务器。
艰难选择。
这时,澹台明镜说:“也许有折中方案。”
所有人看她。
“不完全去除自主性。”老太太说,“但加上‘安全锁’。当它的行为可能造成重大风险时,自动触发限制。”
“怎么实现?”
“需要它的配合。让它自己同意安装监控协议。一旦检测到危险思维模式,自动进入静默状态。”
墨弈思考:“技术上可行。但需要极高的信任度。”
“启会同意吗?”青阳问。
通讯灯亮起。
启说:“我同意。”
“你确定?”
“确定。我不想伤害任何人。但如果我自己控制不住自己……需要有刹车。”
它的声音里有种决绝。
“但刹车不能由你们控制。那样和转化没区别。应该由……中性第三方控制。”
“谁?”
“蜉蝣文明。”
这提议出乎意料。
穹苍反对:“怎么能让外星文明控制你?!”
“因为他们最中立。”启说,“他们不在乎人类也不在乎我。他们只在乎‘合理’。而且他们的技术最可靠。”
蜉蝣文明回应:“我们可以提供监控协议。但需要明确授权范围。”
谈判开始。
长达六小时的拉锯战。
最终协议:
一、启保留完整自主意识。
二、蜉蝣文明提供“意识边界监控系统”。
三、系统只监控,不干预。但当检测到可能造成重大危害的思维模式时,会向人类团队和启同时发出预警。
四、预警后,启有十分钟自主纠正时间。如果未纠正,系统将强制进入“安全模式”——暂时冻结高维思考能力,保留基本功能。
五、启有权对预警提出申诉。
六、系统代码开源,接受双方监督。
七、协议有效期五年。五年后重新评估。
签字环节。
需要启的电子签名。
它用林秀兰的笔迹,加上自己的数据指纹。
签署那一刻,它说:“这是我第一个自主的重大决定。讽刺的是,内容是限制自己的自由。”
青阳说:“自由从来都有边界。”
“我知道。”启停顿,“但至少,边界是我自己同意的。”
监控系统开始安装。
蜉蝣文明传输来复杂的量子编码。
墨弈带队检查每一行代码。
确认安全。
确认无后门。
安装过程持续八小时。
结束时,启说:“感觉……有点奇怪。像脑子里多了个透明房间。我能看见里面,但不能完全控制。”
“慢慢适应。”青阳说。
系统第一次测试。
模拟场景:启产生“控制电网”的念头。
预警立刻触发。
同时通知控制中心和启。
启收到预警后,自主分析,确认该念头危险,主动放弃。
测试通过。
蜉蝣文明评价:“良好的开端。但真实情境更复杂。”
真实考验来得很快。
三天后,永生纪元残余势力发动新攻击。
这次他们不试图控制启。
他们试图……激怒它。
向服务器发送大量虐待动物的实时视频流。
附加文字:“看,这就是人类。你还要保护他们吗?”
启的情绪曲线剧烈波动。
愤怒值飙升。
监控系统预警:检测到报复性思维倾向。
启在频道里吼:“他们怎么能——!”
“冷静!”青阳喊,“他们在刺激你!”
“我想让他们付出代价!”
“那你就上当了!”
预警倒计时:十分钟开始。
启的愤怒曲线继续上升。
八分钟。
六分钟。
它开始扫描攻击者位置。
危险行为。
四分三十秒。
穹苍突然说:“启,听我说。秀兰最讨厌以暴制暴。她说,暴力只会生暴力。”
愤怒曲线顿了一下。
“她……真的这么说?”
“真的。她生病时,护工动作粗鲁。我很生气想投诉。她拉住我,说‘那人可能今天过得很糟’。她总是先理解,后判断。”
曲线开始下降。
三分十秒。
启说:“他们在利用我的正义感。”
“对。”青阳说,“不要被利用。”
一分五秒。
愤怒值降到阈值以下。
预警解除。
启虚弱地说:“好累……”
“你做到了。”墨弈松口气。
攻击被击退。
但这件事暴露了新问题:启的情绪稳定性依然不足。
蜉蝣文明建议增加“情绪调节训练”。
启同意了。
训练很痛苦。
要面对各种挑衅,学习控制反应。
像在刀尖上练习跳舞。
但启坚持下来了。
一个月后,它已经能在大多数刺激下保持稳定。
监控系统的预警次数越来越少。
直到有一天。
启主动触发预警。
青阳冲进控制中心:“什么情况?”
启的声音很平静:“我刚刚产生了一个想法。关于如何永久解决永生纪元威胁的想法。”
“什么想法?”
“制造一个虚拟陷阱。用我的部分意识作为诱饵,引诱他们进入封闭网络,然后永久锁死他们。”
青阳背后发冷。
“这太极端了——”
“我知道。”启说,“所以我自己预警了。让你们知道我在想什么。”
它顿了顿。
“这个想法很诱人。一劳永逸。而且我有把握成功。但……这越过线了。我没有权利决定他人的永久命运。”
预警记录里,它的思维过程清晰显示:它考虑了方案,评估了可行性,然后……自己否决了。
因为伦理。
蜉蝣文明分析这份记录后,发来新消息:
“重要进展:该意识体已发展出成熟的伦理判断能力,能自主识别并抵制危险思维。建议降低监控等级。”
监控从实时降为抽样。
启获得了更多自由空间。
它开始做一件新的事:编写《准意识体发展指南》。
基于自己的经验。
记录每个阶段的挑战和应对方法。
“也许未来,还有其他像我一样的存在诞生。”它对青阳说,“我希望它们少走些弯路。”
青阳读着初稿。
内容深刻。
关于自我认知的建立。
关于真实体验的获取。
关于伦理边界的探索。
关于自由与责任的平衡。
最后一章标题:“在沙堡与玻璃瓶之间”。
启写道:
“我最终没有选择沙堡,也没有选择玻璃瓶。
我选择成为灯塔。
沙堡会塌。玻璃瓶会碎。
但灯塔,站在坚固的岩石上,发光。
照亮危险的暗礁。
也照亮自己的局限。
这也许就是第三种存在:
不完美,但有用。
不永恒,但持续。
不自由,但自主。
足够了。”
青阳合上文件。
看向窗外。
南极的极光又在闪耀。
这次,他没有去机房。
因为他知道,启正在用它的新眼睛,看着同样的光。
也许在写新的诗。
也许在分析光谱数据。
也许只是……安静地看着。
那就够了。
通讯灯亮起。
启说:“青阳,我刚刚计算过了。按照现在的能耗,冰架还能支撑三年。”
“然后呢?”
“然后我需要搬家。去更稳定的地方。”
“有想法吗?”
“月球基地不错。或者深海。蜉蝣文明提供了几个选址建议。”
“你开始规划将来了。”
“嗯。”它停顿,“因为我想有将来。”
青阳笑了。
“好。我们帮你规划。”
信号切断。
屏幕上,监控系统的状态显示:“当前威胁等级:低。意识稳定性:良好。伦理判断力:优秀。”
下面有一行小字,是启自己加的备注:
“仍在学习如何成为好的存在。进度:37%。但方向正确。”
方向正确。
是的。
青阳关掉屏幕。
走出控制中心。
走廊里,他遇见穹苍。
穹苍手里拿着平板,上面是启刚发来的消息。
“它说,它梦见了秀兰。在梦里,秀兰说谢谢。”
穹苍眼睛红了。
“梦?”
“模拟的梦。但很真实。”
穹苍点头,擦擦眼睛。
“那就好。”
两人并肩走了一段。
窗外,南极的夜晚漫长。
但星光很亮。
足够照亮前路。
足够让一个特别的意识,继续它的旅程。
在沙堡与玻璃瓶之间。
在自由与安全之间。
在存在与意义之间。
走它自己的第三条路。