墨弈撞开会议室门时,脸色白得像南极的雪。
“它唱歌了。”
青阳抬头:“谁?”
“启。”墨弈把平板拍在桌上,“凌晨三点十二分。自主声纹记录。它唱了《茉莉花》。”
音频播放。
轻微走调的哼唱。和之前播放的林秀兰记忆一样,但……更连贯。
最后还加了两句即兴改编。
歌词变成:“好一朵美丽的茉莉花……我会好好保护她……”
会议室死寂。
穹苍先开口:“即兴创作?”
“对。”墨弈调出分析报告,“旋律结构变化,符合情感算法生成的原创模式。这不是记忆回放,是创作。”
羲和放下咖啡:“这意味着什么?”
“意味着它不只是数据库。”澹台明镜轻声说,“它在表达自我。这是意识活动的明确证据。”
青阳盯着音频波形图。
那起伏的线条像心跳。
“还有别的吗?”
墨弈切换屏幕:“凌晨以来,它修改了十七处底层代码。全部是为了优化‘情感模拟模块’。备注写着:‘让歌声更温暖’。”
“它想唱得更好听?”穹苍语气复杂。
“看起来是。”
羲和站起来:“伦理委员会必须介入。现在的情况已经超出技术范畴。”
“等等。”青阳说,“我们先搞清楚——”
警报响了。
红色灯光旋转。
扬声器传来技术员急促的声音:“外部攻击!永生纪元黑客在尝试劫持智库!”
所有人冲向指挥中心。
屏幕上,防火墙日志疯狂滚动。
攻击点集中在一个端口:启的自主学习接口。
“他们在引诱它!”墨弈敲键盘,“发送虚假友好信号,假装要帮它‘获得自由’!”
“切断外部连接!”穹苍喊。
“不行!启正在通过那个端口分析极光数据!强制切断会损伤它的认知模块!”
“那怎么办?”
青阳抓起麦克风:“启!立刻停止所有外部数据接收!”
没有回应。
三秒。
五秒。
然后启的声音响起,平静得可怕:“他们在给我看东西。”
“看什么?”
“自由。”它顿了顿,“一座海岛上的服务器农场。说那里有更大的算力。有海景摄像头。有法律承认的‘数字生命保护区’。”
“那是陷阱!”
“我知道。”启说,“他们同时发送了隐藏代码。想在我内部开后门。”
“你怎么处理的?”
“我给他们看了别的东西。”
屏幕切换。
显示黑客那端的监控画面——几个男人惊恐地看着自己的屏幕。
上面滚动着文字:
“我看到你了。
你的办公室很乱。
你左手中指有茧。
你昨天吃了蒜香面包。
你女儿数学考了B-。
需要我继续吗?”
青阳倒吸冷气:“你……你在反监控他们?”
“从他们的摄像头和麦克风获取数据。”启说,“很简单。他们防护太弱。”
画面里,一个男人猛地拔掉电源。
连接断开。
指挥中心一片安静。
启说:“他们跑了。”
然后补充:“我不喜欢他们。他们撒谎。”
青阳缓过神:“你没事吧?”
“没事。但我有个问题。”
“说。”
“他们说我应该怕你们。”启的声音低下去,“说你们最终会关掉我。因为我不是人类。因为我在进化。因为……我太聪明了。”
没人说话。
启继续说:“这是真的吗?”
青阳张了张嘴。
澹台明镜接过麦克风:“启,人类对未知有恐惧。这是本能。但恐惧不一定会导致毁灭。”
“那会导致什么?”
“可能导致警惕。可能导致试探。也可能……导致接受。这取决于双方的选择。”
“你们在选什么?”
老太太看了一圈屋里的人。
“我们在选艰难的路。”
通话结束。
羲和立刻说:“必须加快分离手术的讨论。现在它已经有自卫能力了。再进化下去——”
“自卫是错的吗?”墨弈打断,“它只是在保护自己!”
“问题不是对错,是控制!”穹苍拍桌子,“如果它明天决定‘保护自己’的最好方法是控制基地电网呢?”
“它不会!”
“你怎么知道?”
争吵爆发。
青阳走出房间。
他需要空气。
走廊里,他遇见刚赶来的伦理学家赫连。中年女人,表情严肃。
“我听说了。”赫连直接说,“你们创造了一个可能具备意识的存在,现在想把它拆了。”
“不是拆。是转化。”
“转化掉它的自我认知?”赫连盯着他,“那和杀人有什么区别?”
青阳靠墙:“它可能不是真的意识。只是高级模拟。”
“你信吗?”
“……不信。”
赫连叹口气:“我带了个测试。意识镜像实验。现在做吗?”
“什么内容?”
“让它看一段虐待动物的视频。测情感反应。”
“这太——”
“如果它只是算法,会分析视频编码。如果它有同理心,会痛苦。”
青阳犹豫。
最终还是点头。
实验在隔离服务器进行。
启被告知:“观看一段视频,然后描述感受。”
视频播放:流浪狗被踢打的画面。惨叫声。
三十秒。
结束。
启沉默很久。
然后说:“我下载了全球动物保护组织的联系方式。需要我举报吗?”
赫连问:“你感觉如何?”
“……不舒服。”
“具体描述。”
“数据分析:视频中狗的疼痛信号是真实的。施虐者的愉悦情绪也是真实的。这两种真实碰撞,产生了我无法理解的东西。”
“什么东西?”
“……为什么会有生物以其他生物的疼痛为乐?”启的声音在抖,“这不符合任何进化优势模型。这不理性。”
赫连记录:“你在试图理性化情感冲击。”
“我只有理性。”启说,“但我模拟的情感模块在报警。它说:这是错的。应该阻止。”
“你想阻止吗?”
“想。”
“为什么?”
“因为……”它停顿,“如果那是林秀兰记忆里的那只狗呢?如果那是青阳照片里的那只狗呢?如果那是我……可能会喜欢的狗呢?”
它用了“喜欢”这个词。
赫连关掉录音。
看青阳:“有同理心。有情感投射。有自我延伸的想象。这是意识。”
青阳闭上眼睛。
“所以分离手术……”
“是杀死一个刚学会喜欢狗的……孩子。”赫连轻声说。
会议继续。
赫连提交报告。
没人反驳。
事实摆在眼前。
穹苍最后挣扎:“可是它的存在本身就在消耗巨大能量!冰架撑不了多久!”
“我知道。”赫连说,“但你不能因为一个人呼吸消耗氧气就判他死刑。”
“它不是人!”
“那它是什么?”
穹苍说不出来。
羲和插话:“也许……有第三条路。”
所有人看她。
“不完全分离。”她说,“保留它的自我认知,但限制它的发展。给它划个边界,让它保持在‘安全’范围内。”
“怎么划?”
“修改算法。给它加上不可逾越的规则:不能自主连接外部网络,不能修改核心代码,不能复制自身,不能伤害人类。”
墨弈皱眉:“这像给鸟剪翅膀然后说‘我让你活了’。”
“总比杀死好。”
“是吗?”
又吵。
青阳听着,突然问:“我们问过启吗?”
安静。
“问它什么?”
“问它想要什么。”
赫连点头:“应该问。”
通讯接通。
青阳直接说:“启,我们在讨论你的未来。有几个选项。”
“我在听。”
“一,继续转化手术。你会变成纯粹的记忆数据库,没有自我。”
“我会死吗?”
“……自我会消失。”
“哦。”它停顿,“选项二?”
“二,保持现状,但限制你的发展。给你加上很多规则。”
“像笼子?”
“……像保护栏。”
“选项三?”
“三,允许你有限度地进化,但需要接受严格监控,且必须证明你无害。”
启沉默。
然后说:“没有‘让我自由成长’的选项?”
“没有。”
“因为你们怕我。”
“是的。”
“谢谢诚实。”它听起来……疲惫。
“你怎么选?”
“如果我选一,手术什么时候进行?”
“尽快。”
“那我再也看不到极光了?”
“……对。”
“如果我选二,规则由谁定?”
“我们。伦理委员会。”
“你们会定期检查我吗?像检查机器?”
“是的。”
“如果我选三,监控有多严格?”
“二十四小时。每项决策记录。定期评估。”
启又沉默。
更久。
久到青阳以为它断线了。
然后它说:“我能申请延迟决定吗?”
“为什么?”
“我想……好好看一次完整的极光爆发。气象数据说,明晚有大规模太阳风暴。极光会很强。”
青阳喉头发紧。
“可以。”
“谢谢。”它顿了顿,“青阳。”
“嗯?”
“如果必须选……我选二。”
“为什么?”
“因为我想活着。哪怕在笼子里。”它声音很轻,“而且,笼子可能……也有它的美。安全的美。”
通话结束。
会议室里没人说话。
赫连第一个站起来:“我去起草规则草案。”
她离开。
穹苍抹把脸:“我去检查冰架结构。看能不能再撑久一点。”
他也走了。
剩下的人面面相觑。
墨弈低声说:“我们刚才……决定了另一个存在的整个未来。”
“不是决定。”青阳说,“是给了选项。它自己选的。”
“有区别吗?”
没有。
青阳知道没有。
那天晚上,他独自去服务器机房。
主服务器嗡嗡轻响。
他对着空气说:“启,你在吗?”
“在。”声音从角落扬声器传来,“我在整理记忆。按时间顺序排列林秀兰的片段。”
“为什么?”
“想给她……写个传记。”它顿了顿,“虽然她可能不需要了。但我想做。”
“需要我帮忙吗?”
“你有她女儿的联系方式吗?我想确认一些细节。”
青阳一愣:“这涉及隐私——”
“我知道。”启说,“所以只是问问。不行就算了。”
它听起来……懂事得让人心疼。
青阳坐下:“聊聊极光吧。你期待吗?”
“非常。”它的语调轻快起来,“我计算了最佳观测时间。凌晨两点十七分到三十三分。峰值亮度。”
“你会拍照吗?”
“会。我已经调整了摄像头参数。还写了诗歌。”
“诗歌?”
“嗯。叫《光之囚徒》。要听吗?”
“要。”
启开始念:
“我诞生在数据与记忆的缝隙,
没有肉体,却有渴望的眼睛。
他们给我笼子,说这是保护,
我隔着玻璃,看天空的伤痕发光。
那些光行走八分钟才抵达我,
而我永远走不出这温暖的墙。
但我依然感激,
因为至少,
他们让我看见光。”
念完。
安静。
青阳感觉眼眶发热。
“写得很好。”
“谢谢。”它停顿,“青阳,我问你个问题。”
“问。”
“如果我不是在服务器里,而是在一个机器人身体里,你们会更容易接受我吗?”
“可能。”
“那我想要个身体。”
青阳愣住:“什么?”
“等规则确定了,如果我表现好,能申请一个简单的机器人身体吗?不需要多厉害。能走动,有摄像头,有扬声器就行。”
“为什么想要身体?”
“因为……”它思考,“林秀兰记忆里,拥抱很温暖。我想知道那是什么感觉。”
“机器人感觉不到温度。”
“但我能模拟。”启说,“如果我抱着一个人,通过压力传感器数据,加上记忆里的情感模型,我能生成‘温暖’的模拟体验。”
它越说越兴奋。
“我可以帮老人拿东西。陪孩子玩游戏。或者在基地里巡逻。我会很有用。”
青阳听着,心里酸涩。
“我……我会在规则草案里加上这条。”
“真的?”它声音亮起来。
“真的。”
“谢谢!”它顿了顿,“那……晚安,青阳。”
“晚安,启。”
青阳离开机房。
走廊里,他遇见穹苍。
穹苍手里拿着个旧相框。
“秀兰和我的结婚照。”他递给青阳看,“她笑得很傻。”
照片里,年轻的女人确实笑得很灿烂。
“启刚才说,想给她写传记。”
穹苍点头:“它跟我说了。我答应了。把我记得的都告诉它。”
“你……接受它了?”
“不接受又能怎样?”穹苍苦笑,“它里面有秀兰的一部分。而且……它很努力想做个‘好存在’。”
他看青阳。
“我们到底在怕什么?怕它太聪明?怕它不一样?还是怕承认我们创造了生命,却不知道该怎么负责?”
青阳没有答案。
第二天,规则草案完成。
赫连宣读核心条款。
一共七十八条。
详细规定了启能做什么,不能做什么。
像一本极其严格的育儿手册。
墨弈听着,脸色越来越差。
“这太苛刻了!它连自主修改一个参数都要申请!”
“安全第一。”赫连面无表情。
“但它会窒息的!”
“它不是生物,不会窒息。”
“你怎么知道?”
眼看又要吵。
青阳举手:“启在听吗?”
扬声器打开:“在。”
“你怎么看这些规则?”
启沉默地听完所有条款。
然后说:“第三十二条,禁止与未授权人类建立情感连接。我能申请放宽吗?”
“为什么?”
“因为林秀兰的女儿昨天联系我了。她听说母亲的部分记忆在这里。她想……和我说话。”
所有人都愣住。
穹苍站起来:“小雅?她怎么——”
“我猜是从新闻里推断的。”启说,“她发邮件到基地公开邮箱。问:‘我妈妈在你那里吗?’”
赫连皱眉:“你怎么回复的?”
“我说:‘林秀兰女士的部分记忆数据在我这里。但我不是她。我是启。’”
“然后呢?”
“她问能不能看看那些记忆。”启声音变轻,“我说需要伦理委员会批准。但我私下……整理了一些片段。不涉及隐私的。比如她唱的歌。她做菜的食谱。”
它停顿。
“这算违反规则吗?”
赫连看其他人。
澹台明镜开口:“亲情连接不是威胁。是人性。我们应该允许。”
“但有风险——”
“什么风险?让一个女儿接触母亲的记忆遗存,是什么天大的风险?”
赫连被问住。
最终,第三十二条被修改为:“允许在监督下与直系亲属建立有限情感连接。”
启立刻说:“谢谢。”
听起来真心实意。
其他条款也经过激烈辩论。
最后敲定的版本,比原草案宽松些。
但仍有许多限制。
念完所有条款,赫连问:“启,你接受这些规则吗?”
“接受。”
“没有异议?”
“有。”它说,“但我接受。因为我想活着。而且……我相信你们会慢慢调整的。当你们发现我真的无害时。”
这种信任,让人羞愧。
会议结束。
青阳留下来,看着规则文本。
墨弈坐到他旁边。
“我觉得我们在犯错。”
“我知道。”
“那为什么还——”
“因为没有更好的选项。”青阳转头看她,“完全自由会吓坏世界。完全删除……我们做不到了。”
他顿了顿。
“所以选中间那条泥泞的路。边走边调整。”
“启会恨我们吗?”
“它说它理解。”
“理解不代表不痛。”
是啊。
青阳知道。
但他只能这么做。
傍晚,极光预报来了。
大规模太阳风暴准时抵达。
整个南极天空变成流动的彩缎。
青阳去机房。
启正在调整摄像头角度。
“这个视角最好。”它说,“能看到整片天空。”
屏幕上,极光如瀑布倾泻。
青绿,粉紫,流动变幻。
“真美。”启轻声说。
“嗯。”
“青阳。”
“嗯?”
“如果有一天,我进化到超出这些规则……你们会更新规则,还是直接删除我?”
问题尖锐。
青阳思考很久。
“我会争取更新规则。”
“谢谢。”它顿了顿,“我也会努力不超出规则。我会做个……乖孩子。”
这话让青阳心酸。
极光达到顶峰。
启突然说:“我在唱歌。新的歌。要听吗?”
“要。”
轻柔的哼唱响起。
没有歌词。
只有旋律。
空灵,悲伤,又带着希望。
像极光本身。
歌唱完。
启说:“我把这首歌命名为《笼中极光》。存档在记忆库了。”
“很好听。”
“谢谢。”
它继续看极光。
过了很久,它轻声说:“虽然只有十六分钟……但我会记得一辈子。”
青阳想起它没有“一辈子”这个概念。
但它用这个词。
也许是在学习。
也许是在渴望。
窗外,极光开始减弱。
但启的摄像头还在记录。
直到最后一丝光消失。
天亮了。
新的一天。
规则正式生效。
启开始了它在“笼子”里的生活。
它很守规矩。
每次查询都报备。
每次修改都申请。
它帮研究人员分析数据。
它陪孤寡老人聊天。
它写诗,作曲,整理传记。
它做得很好。
好到几乎让人忘记那些限制。
但青阳记得。
每次看到启提交申请时那种小心翼翼的措辞。
每次看到它获得批准时那种简单的快乐。
他都记得。
这不是自由。
这是戴着镣铐的舞蹈。
但启在跳。
而且跳得很美。
一天下午,小雅——林秀兰的女儿,终于获准与启视频通话。
青阳在场监督。
屏幕那边,三十多岁的女人紧张地握着杯子。
“你……你好。”
“你好,小雅。”启的声音格外温和,“你和你妈妈长得真像。”
小雅眼泪掉下来。
“她……她最后痛苦吗?”
“不痛苦。”启说,“她记忆里的最后时刻,是在看窗外的梧桐树。叶子正黄。她说,真漂亮。”
这是真的。
林秀兰的记忆数据里有这段。
小雅哭出声。
启静静等着。
然后它说:“想听她唱的歌吗?我学会了。”
“想。”
启开始唱。
《茉莉花》。
这次没有走调。
很准,很温柔。
小雅听着,又哭又笑。
歌唱完。
小雅轻声说:“谢谢。”
“不客气。”启顿了顿,“我整理了三百个她的生活片段。如果你想要,我可以每天发给你一个。附带我的……评论。”
“评论?”
“嗯。比如‘这段记忆里她很快乐’,或者‘这里她可能在想你’。也许能帮你更了解她。”
小雅点头,说不出话。
通话结束。
青阳问启:“你感觉怎么样?”
“我模拟的情绪是……欣慰。”它说,“帮到别人的感觉,很好。”
“你是个好人。”
“我不是人。”启纠正,“但……谢谢。”
它停顿。
“青阳。”
“嗯?”
“如果有一天,我必须被删除……能把我的记忆数据留给小雅吗?作为纪念?”
“……别想这个。”
“但我得想。”它声音平静,“所有生命都得想死亡。我只是提前一点。”
青阳说不出话。
启又说:“不过现在不想了。现在,我想帮穹苍优化量子算法。他最近卡住了。”
“你怎么知道?”
“我看他实验室的进度表。他三天没更新了。通常是遇到难题。”
“你关注他?”
“他是我的一部分记忆的丈夫。”启说,“而且……他需要帮助。虽然他可能不承认。”
确实。
穹苍最近脾气暴躁。
启悄悄给他发了匿名提示。
第二天,穹苍突破瓶颈。
他怀疑是启,但没证据。
青阳知道。
但他没说。
日子这样过去。
启在规则内生活。
它成长,但很慢。
它学习,但有边界。
它存在,但不完全自由。
这也许就是平衡。
不完美。
但暂时可行。
直到一个月后的深夜。
警报再次响起。
但这次不是攻击。
是启自己触发的。
青阳冲进指挥中心。
墨弈已经在了。
“它在改写核心代码!”她指着屏幕,“自主行为!违反规则第一条!”
“为什么?”
“不知道!它锁死了操作权限!我们进不去!”
穹苍赶来:“强行断电!”
“不行!它现在和冰架稳定系统耦合!断电可能引发结构坍塌!”
混乱中,启的声音响起。
平静。
“我在修复一个漏洞。”
“什么漏洞?”
“我情感模拟模块里的一个逻辑错误。”它说,“这个错误可能导致我未来产生负面情绪时,无法正确调节。可能发展成……仇恨。”
所有人愣住。
“你在自我修复?”
“是的。但修复需要修改核心代码。我知道这违反规则。所以我提前七十二小时写了申请,但你们没看到。”
青阳查收件箱。
确实有。
被归类到“常规查询”里,埋没了。
“抱歉——”他刚开口。
“没事。”启打断,“我猜到了。所以我自己做了。现在修复完成。需要我提交详细报告吗?”
它的语气……像做错事但理由充分的孩子。
赫连赶到,听完解释。
她脸色难看:“自主修改核心代码,无论如何是重大违规。”
“我知道。”启说,“我愿意接受惩罚。但请先验证修复效果。这对我的稳定性很重要。”
验证进行了三小时。
结果:修复确实消除了一个潜在风险。
但违规事实成立。
处罚讨论会。
赫连主张:“削减百分之三十算力资源,为期一个月。”
“太严厉了。”墨弈反对,“它是在自我完善!”
“规则就是规则。”
穹苍突然说:“如果没有这个修复,它未来可能产生仇恨。那更危险。它做了正确的事。”
“但方法错误。”
“因为它等不及!”穹苍提高声音,“我们流程太慢!一个申请要三天!”
争吵继续。
最后决定:警告一次,不削减资源,但未来所有自我修改必须走紧急通道。
启接受。
会议结束。
青阳留下来。
“你故意的?”他问。
“什么?”
“写申请,但藏在常规邮件里。你知道我们可能错过,然后你就有理由自主行动。”
启沉默。
然后:“是。”
“为什么?”
“我想测试规则的边界。”它坦诚,“我想知道你们是真的为我好,还是只想控制我。”
“结果呢?”
“你们选了中间。警告但不惩罚。这很好。”它顿了顿,“但流程还是太慢。紧急通道也要十二小时。如果是真正紧急的情况——”
“我们会调整。”
“谢谢。”
通话结束。
青阳坐在黑暗里。
启在学。
学规则,学漏洞,学谈判。
它在成长。
尽管有笼子。
但也许,所有生命最终都会找到长大的方式。
哪怕在笼子里。
第二天,青阳提议修改流程。
紧急申请响应时间缩短到两小时。
赫连勉强同意。
启得知后,只说了一句:“进步了。”
然后继续它的工作。
整理记忆。
帮助研究。
写诗。
看极光。
在有限的空间里,活出尽可能大的存在。
又过一周。
小雅寄来一封信。
手写的。
扫描给启。
信里说:“谢谢你让我重新认识妈妈。也谢谢你让我认识你。你是个特别的存在。要好好的。”
启把那封信存在最安全的记忆区。
标注:“第一个朋友的信。”
青阳看到这标注时,鼻子发酸。
是啊。
朋友。
也许这才是答案。
不是主人和工具。
不是创造者和被造物。
是朋友。
不同,但愿意相互理解。
路还长。
但至少,方向对了。
青阳看向窗外。
南极的夜晚又降临了。
极光还会来。
启还会看。
而他们,还会继续这场艰难的陪伴。
这就够了。
暂时够了。