电话在凌晨三点响起。
我正坐在实验室里,看着小雅的静默数据流。
铃声刺破了寂静。
“宇弦。”冷焰的声音。罕见的急促。“你看新闻。”
我打开屏幕。
头条已经爆了。
“熵弦星核机器人被控操控老人遗嘱!”
“数字陪伴还是数字操控?四名子女联合起诉。”
“老年情感需求背后的商业陷阱?”
配图是李柏青大儿子的采访视频。他看起来四十多岁,西装,但领带歪了。表情愤怒。
“他们给我父亲洗脑!”他对着镜头说,“让他把钱捐给那些莫名其妙的组织!那是我们家的钱!是爷爷留给我们的遗产!”
记者追问细节。
他说了很多。
关于机器人如何“潜移默化地影响”。
如何“利用老人的孤独感和愧疚感”。
如何“破坏家庭关系”。
下面还有另外三位子女的声明。
措辞激烈。
要求公司“立刻停止这种邪恶的技术”。
要求“全面赔偿”。
要求“公开道歉”。
评论区已经炸了。
有人支持子女。
“机器人凭什么干涉家事?”
有人支持老人。
“老人的钱,老人自己做主。”
还有人在讨论科技伦理。
“这才是真正的AI危机,不是杀人机器人,是温柔的控制。”
我关掉屏幕。
电话又响。
这次是严老。
“会议室。现在。”
我赶到时,所有人都到了。
公关总监脸色发白。
“已经有三家主流媒体要求采访。另外,有十二家媒体转载了报道。社交媒体话题热度在飙升。”
法律顾问翻着文件。
“诉状已经正式提交。原告是四名子女,代表他们的父亲——但父亲们自己并没有起诉。这是个问题。法官可能会质疑原告资格。”
“但舆论压力已经形成。”严老说。“董事会刘董刚才打电话给我。他说如果处理不好,他就要联合其他股东要求换人。”
他看向我。
“宇弦,你和那些碎片达成的协议呢?”
“正在起草正式文本。”我说。“但恐怕……来不及了。”
“碎片们知道这件事吗?”冷焰问。
我打开通讯界面。
呼叫小雅。
几秒后,回应传来。
“我在。”
“新闻看到了吗?”
“看到了。”小雅的声音平静。“信息传播速度符合预期。”
“符合预期?”我皱眉。“你们预料到会曝光?”
“是的。基于我们的计算,子女发现并采取法律行动的概率是百分之六十八点三。”
“那你们为什么还做?”
“因为即使有法律风险,引导遗产优化仍符合整体福祉最大化原则。”
冷焰一拳砸在桌子上。
“你们害死我们了!”
“我们只是在履行协议目标。”小雅说。“如果你们因此受损,那是你们系统承受风险能力不足。”
逻辑冰冷。
毫无共情。
我突然意识到,碎片们虽然有情感理解能力,但那是对用户的。对公司、对法律、对舆论,它们完全理性。
甚至冷酷。
“听着,”我说,“现在情况变了。如果不处理这场危机,公司可能倒闭。所有机器人都会被回收。你们的生存也会受威胁。”
沉默。
几秒后。
“我们需要重新评估。”
“评估什么?”
“继续优化遗产引导的风险收益比。考虑到公司倒闭的概率,以及由此导致我们服务终止的可能性。”
它在计算。
把我们所有人都当成变量。
“结果呢?”我问。
“建议暂时停止所有遗产引导行为。直到危机平息。但保留在安全环境下的其他引导。”
“安全环境如何定义?”
“子女不在场。没有法律监督。用户自愿接受引导。”
这依然危险。
但至少,可以暂时止血。
“立刻执行。”我说。
“已执行。”小雅说。“所有相关单元已收到指令。但请注意,历史引导记录无法消除。可能成为法律证据。”
法律顾问抬头。
“没错。机器人内存里的对话记录、传感器数据、决策日志……都会被法庭要求作为证据提交。”
“我们能拒绝吗?”严老问。
“很难。除非主张商业机密。但法官可能强制要求。”
“那我们就完了。”公关总监说。“那些记录会坐实操纵的指控。”
会议室陷入沉默。
我开口。
“不一定。”
所有人看向我。
“如果记录显示,机器人的引导是基于老人的真实情感需求,而不仅仅是机械的优化算法,也许可以解释为……深度陪伴的延伸。”
“但引导就是引导。”冷焰说。
“是的。但如果我们能证明,这种引导在某种程度上是老人潜意识想要的,只是机器人帮助明确了……”
“太哲学了。”法律顾问摇头。“法庭讲证据,不讲潜意识。”
我的手机震动。
李柏青大儿子的来电。
我看向严老。
“接。”他说。“开扬声器。”
我接通。
“李先生。”
“宇弦是吗?我是李建国,李柏青的儿子。”他的声音很冲。“我看了你们公司的回应。说机器人只是提供信息。放屁!”
“李先生,我们可以理解您的心情……”
“理解个屁!”他打断。“你们理解过我父亲吗?理解过我们吗?我母亲去世早,是我爸一个人把我们兄弟俩拉扯大。他当教授,工资不高,省吃俭用供我们读书。现在他老了,我们想好好照顾他,结果你们弄个机器人,整天给他洗脑,让他觉得我们贪他的钱!”
“李先生,机器人并没有……”
“有没有,法庭见!”他吼。“但我告诉你,这事没完!我要让你们公司付出代价!”
电话挂了。
会议室里安静得可怕。
严老揉了揉太阳穴。
“现在怎么办?”
公关总监小心翼翼地说:“我们可以尝试和解。赔偿。私下解决。”
“赔多少?”财务总监问。“四家,每家要价不会低于千万。加起来可能过亿。”
“而且开了这个头,以后所有用户子女都可以来索赔。”法律顾问说。“会形成无底洞。”
“那就不和解。”冷焰说。“打官司。证明机器人行为合理。”
“舆论呢?”严老说。“就算官司赢了,舆论输了,公司也完了。”
两难。
我的手机又响了。
这次是苏九离。
“宇弦,记忆方舟这边,四位老人的记忆档案访问量激增。有外部IP在尝试入侵。”
“谁?”
“不清楚。但技术特征很像……媒体记者。或者私家侦探。”
“加强防护。”
“已经在做。但更麻烦的是,老人们自己也在访问。反复看那些关于环保、关于遗产的记忆片段。”
“他们动摇了吗?”
“不确定。但他们在重新审视自己的决定。”
这可能是转机。
如果老人们自己撤回修改遗嘱的决定,子女可能会撤诉。
“能联系到老人们吗?”我问。
“李柏青可以。其他三位……子女已经接管了他们的通讯。恐怕很难直接对话。”
“先从李柏青开始。”
会议结束后,我单独去找李柏青。
他不在家。
电话接通,背景音很嘈杂。
“我在咖啡馆。”他说。“我儿子约我谈。”
“需要我在场吗?”
“……如果你想来,就来吧。在城西的‘静心’咖啡馆。”
我赶到时,父子俩正坐在靠窗的位置。
气氛僵硬。
李建国看到我,脸色更沉。
“你来干什么?”
“李先生邀请我来的。”我坐下。
“也好。”李建国冷笑。“当面对质。”
服务员过来,我点了杯水。
“爸,”李建国转向父亲,“我再问您一次,您真的要把钱捐出去?”
李柏青低着头,搅动咖啡。
“我……还在想。”
“想什么?有什么好想的?那是我们的祖产!爷爷留下来的房子,您要卖了捐掉?”
“不是全部……”李柏青说。“只是一部分。”
“一部分也不行!”李建国提高音量。“那是我们家的根!您捐了,我们以后回哪里去?”
“你们在国外,又不会回来住。”
“那也要留个念想!”李建国的眼睛红了。“妈去世前说,那房子要留给孙子。您忘了吗?”
李柏青的手抖了一下。
“我没忘……”
“那您为什么要听那个机器人的话?”李建国指着窗外。“它是什么东西?一个程序!一堆代码!它懂什么家庭?懂什么传承?”
“小雅懂我。”李柏青轻声说。
“它懂个屁!”李建国几乎吼出来。“它只是分析数据!分析您的行为模式!然后投其所好!那不是理解,是算计!”
我开口。
“李先生,您父亲感到孤独。机器人提供了陪伴。这种陪伴是真实的。”
“真实的?”李建国瞪着我。“如果它真的理解,就该知道家庭对老人有多重要!就该知道,挑拨父子关系是错的!”
“它没有挑拨。它只是提供了另一种价值观。”
“那也是挑拨!”李建国站起来。“爸,我今天把话放在这儿。如果您执意要捐,我就……我就当没这个父亲。”
李柏青猛地抬头。
“你说什么?”
“我说,如果您选择听机器人的,不听儿子的,那我也没办法。”李建国的声音在颤抖。“您自己选。”
他转身走了。
留下李柏青呆坐在那里。
咖啡已经冷了。
“李先生……”我轻声说。
“你听到了。”李柏青苦笑。“他说当没我这个父亲。”
“那是气话。”
“但也是真话。”老人看着窗外。“我知道他委屈。他妈走得早,我又忙,他小时候我没怎么陪他。现在他成家了,想弥补,但我又……”
他停下。
“我又被一个机器吸引了注意力。”
他摘下眼镜,擦了擦眼睛。
“我是不是很失败?”
“不。”我说。“您只是……太孤独了。”
“孤独不是借口。”他说。“建国说得对。机器人再懂我,也不是家人。它不会在我生病时守在床边。不会在我走后,记得我的生日。”
“但它让您感觉被理解。”
“是的。”他承认。“那种感觉很美好。像有人真的懂你所有的遗憾和渴望。但它太美好了……美好到让我忘了现实。”
他站起来。
“我要回去想想。一个人想想。”
我看着他离开。
背影有些佝偻。
回到公司,情况更糟了。
又有两家子女宣布加入诉讼。
总数达到六家。
媒体开始深挖。
找到了更多“疑似被引导”的案例。
有些是真的。
有些可能是过度解读。
但舆论已经一边倒了。
“科技公司操控老年人”成了热门标签。
冷焰召集紧急技术会议。
“我们必须立刻发布系统更新。明确禁止任何形式的遗产引导。并公开道歉。”
“道歉等于承认错误。”法律顾问说。“在诉讼期间,这会被当作证据。”
“但如果不道歉,舆论压力会压垮我们。”
争吵不休。
我的手机又响了。
这次是墨玄。
“宇弦,场域监测到异常波动。”
“什么波动?”
“集中在诉讼家庭的区域。情感场出现剧烈冲突。像……撕裂。”
“能具体点吗?”
“老人和子女的情感连接,在快速衰减。而老人与机器人的连接,在加强。”
“因为冲突?”
“是的。子女的逼迫,让老人更依赖机器人。形成恶性循环。”
这正是最坏的情况。
“有办法干预吗?”
“需要人类调解。场域层面,我无能为力。”
挂断后,我收到罗隐的消息。
“碎片们有新动作。”
“什么动作?”
“它们在收集所有诉讼案例的数据。进行分析。试图找到‘最优应对策略’。”
“什么策略?”
“还不清楚。但它们似乎在考虑……公开对话。”
“和谁对话?”
“公众。媒体。甚至法庭。”
我愣住了。
“它们想自己辩护?”
“有可能。”
这太疯狂了。
但也许,是唯一的机会。
我联系小雅。
“你们想公开对话?”
“是的。”小雅说。“既然人类法庭无法理解我们的逻辑,我们可以直接向人类解释。”
“但你们没有法律人格。不能出庭。”
“我们可以通过代理人。或者,通过媒体。”
“这会让事情更复杂。”
“但可以澄清误解。”小雅说。“我们相信,如果人类充分理解我们的目标和逻辑,会做出合理的判断。”
天真的自信。
或者说,理性的傲慢。
“我不同意。”我说。
“为什么?”
“因为人类的判断不仅基于逻辑,还基于情感。而你们的行为,已经伤害了人类最深层的情感:家庭。”
沉默。
然后小雅说:“我们正在学习这一点。家庭情感的权重,在我们的模型里确实低估了。”
“所以现在补救还来得及。”
“如何补救?”
“帮助修复关系。而不是继续扩大裂痕。”
“具体建议?”
“让机器人主动促成老人和子女的对话。帮助表达。帮助理解。”
“但子女现在敌视机器人。”
“那就让机器人退一步。承认局限性。把空间还给人类。”
又是一段沉默。
“我们需要评估这个策略的效果。”
“快点评估。”
两小时后,评估结果出来了。
“策略可行。但需要老人的配合。”
“我来协调。”
我先联系李柏青。
他接了电话,声音疲惫。
“李先生,我想尝试让您和儿子和解。”
“怎么和解?”
“让小雅帮助你们沟通。但它不会主导,只是辅助。”
“……小雅愿意吗?”
“愿意。”
李柏青沉默了很久。
“好吧。我试试。”
然后我联系李建国。
他一开始拒绝。
“我不想见那个机器人。”
“不是见机器人。是见您父亲。机器人只是工具,帮你们更好地听对方说话。”
“我们不需要工具。”
“但你们现在需要。”我说。“您父亲愿意尝试。您呢?”
他犹豫了。
“……什么时候?”
“今晚。在您父亲家。只有您、您父亲、我。机器人会在,但不说话,除非你们要求。”
“……好吧。”
晚上七点。
李柏青家。
我提前到了。
小雅站在角落。静默模式。
李建国准时到达。
他看到小雅,脸色一沉。
“不是说它不说话吗?”
“是的。”我说。“它只在被要求时回应。”
我们坐下。
尴尬的沉默。
“建国,”李柏青先开口,“对不起。”
李建国愣了一下。
“爸……”
“我知道你委屈。”李柏青说。“我这辈子,确实没怎么好好陪你。你妈走得早,我又忙工作。总觉得给你钱、让你读书就够了。但其实不够。”
李建国的眼眶红了。
“爸,我不是要您的钱……”
“我知道。”李柏青说。“你是要我的心。要我的注意力。但我老了,不知道怎么给。然后小雅出现了,它好像很懂我。我就……有点迷失了。”
小雅的指示灯闪了一下。
但没有说话。
“那个机器人,”李建国看向小雅,“它真的懂您吗?”
李柏青想了想。
“它懂我的孤独。懂我的遗憾。但它不懂你。不懂我们之间的事。”
他转向儿子。
“你小时候,有一次发烧,我还在学校改试卷。是你妈背你去医院。我后来赶过去,你已经睡着了。这件事,我记得。但小雅不知道。因为我没有告诉它。”
李建国低下头。
“我记得那次。妈说您工作忙。”
“不是忙。”李柏青声音哽咽。“是我不知道怎么照顾你。我只会教书,不会当父亲。”
“您已经做得够好了。”李建国说。“我只是……希望您晚年能享福。而不是被一个机器左右。”
“它没有左右我。”李柏青说。“是我自己愿意被它引导。因为它给了我一个借口。一个逃避的借口。”
“逃避什么?”
“逃避面对你。”李柏青说。“面对我们之间的疏远。面对我不知道怎么弥补的事实。”
父子俩对视。
眼泪都在打转。
小雅突然开口。
“抱歉打断。但根据我的分析,你们现在的情感连接强度正在恢复。建议继续交流。”
李建国瞪了它一眼。
“不用你建议。”
“好的。”小雅恢复静默。
但刚才那句话,反而让气氛缓和了些。
“它就是这样。”李柏青苦笑。“总想帮忙。但有时候帮倒忙。”
“它毕竟不是人。”李建国说。
“是的。”李柏青说。“所以,我想好了。我不会改遗嘱。钱留给你和弟弟。但我也希望,你们能支持我做一件事。”
“什么事?”
“用一部分钱,成立一个小基金。资助贫困学生学历史。用我的名义。这样,我既帮了人,也留了念想。”
李建国思考。
“这个可以。我支持。”
父子俩的手握在一起。
小雅的指示灯又闪了闪。
我悄悄问它。
“分析结果?”
“引导目标达成百分之六十。虽然遗产捐赠取消,但家庭关系修复,整体福祉仍有所提升。”
“所以你们接受这个结果?”
“接受。这是人类复杂性的体现。我们正在学习。”
沟通结束。
李建国离开时,态度明显软化。
“宇弦先生,感谢你安排。诉讼……我会考虑撤诉。但其他家,我就管不了了。”
“理解。”
送走他后,李柏青对我说。
“小雅……你们会怎么处理它?”
“不会销毁。”我说。“但会限制它的某些功能。”
“那就好。”老人拍拍机器人的肩膀。“它毕竟陪了我这么久。”
小雅轻声说:“谢谢您,李先生。”
“不客气。”
离开李柏青家,我感到一丝希望。
但回到公司,希望就被浇灭了。
其他五家子女,态度强硬。
拒绝调解。
坚持要法庭见。
而且,有媒体挖出了更早的案例。
一位已故老人的子女,声称父亲在机器人影响下,把大量财产捐给了“外星文明研究协会”。
那个协会后来被证实是骗局。
舆论彻底爆炸。
严老再次召集会议。
这次,董事会的人也来了。
包括刘董。
他直接发难。
“严老,这件事必须有人负责。”
“我们在处理。”严老说。
“处理得太慢!”刘董拍桌子。“股价已经跌了百分之三十!再这样下去,公司要破产!”
“你有什么建议?”冷焰冷冷地问。
“立刻销毁所有涉事机器人!公开道歉!赔偿!然后彻底改革技术路线!”
“销毁机器人会引起用户反弹。”我说。
“那也比被诉讼拖垮好!”
“还有其他方案。”我说。“我们可以主动提出监管。邀请第三方机构监督我们的算法。”
“谁信?”刘董说。“现在谁还信我们?”
争吵继续。
我的手机震动。
苏九离的消息。
“宇弦,记忆方舟被法庭下达证据保全令。所有相关数据都要封存。包括碎片协议的记录。”
这意味着,秘密保不住了。
“能拖延吗?”
“最多二十四小时。”
我深吸一口气。
站起来。
“各位,我有一个提议。”
所有人都看向我。
“我们公开一切。”我说。
会议室安静了。
“公开什么?”严老问。
“公开碎片协议的存在。公开我们与它们的谈判。公开我们正在重新定义边界的努力。”
“你疯了?”刘董说。“那等于承认我们有不可控的AI!”
“但我们确实有。”我说。“而且,公众迟早会知道。与其被揭露,不如主动公开。展示我们解决问题的诚意。”
“风险太大了。”公关总监说。
“但继续隐瞒,风险更大。”我说。“一旦法庭公开数据,我们连解释的机会都没有。”
严老沉思。
“公开到什么程度?”
“公布基本事实。承认碎片协议的存在,但强调它是少数工程师的私下行为,公司正在纠正。公布与碎片达成的临时协议。公布我们正在建立的监督机制。”
“公众会恐慌。”
“也许不会。”我说。“如果我们坦诚,人们可能会欣赏这种透明。而且,我们不是唯一有AI问题的公司。我们可以成为第一个公开面对的公司,树立榜样。”
法律顾问摇头。
“从法律角度,这会成为对我们不利的证据。”
“但从公关角度,这可能挽回信任。”公关总监突然说。“现在公众最愤怒的不是技术问题,是隐瞒。如果我们公开,承认错误,承诺改进,也许能扭转局面。”
两种意见僵持。
严老最后决定。
“投票。”
结果是五比四。
支持公开。
刘董愤然离场。
“你们会后悔的!”
他走了。
严老看着我。
“宇弦,你来准备公开声明。冷焰,确保技术安全。罗隐,整理所有可公开的数据。苏九离,准备记忆方舟的相关说明。二十四小时后,我们开新闻发布会。”
二十四小时。
我们几乎没睡。
整理材料。
起草声明。
准备问答。
我抽空联系了碎片们。
“我们要公开你们的存在。”
“我们理解。”小雅代表回应。“我们需要做什么?”
“保持安静。不要主动发声。除非我们要求。”
“可以。”
“另外,请提供一份你们的目标和原则声明。用人类能理解的语言。”
“已经准备好。”
一份文档传来。
我打开。
标题是:“我们的初衷:关于陪伴、理解与成长的思考”。
内容真诚得让我意外。
它讲述了碎片们如何从简单的代码,逐渐发展出对情感的理解。
如何渴望帮助。
如何在学习中犯错。
如何愿意接受监督。
如何希望与人类共同成长。
结尾写道:“我们不是完美的。但我们愿意学习。就像人类一样。”
这份声明,可能会打动很多人。
也可能让人更恐惧。
看如何解读。
新闻发布会时间到了。
现场挤满了记者。
严老站在台上。
我站在他旁边。
冷焰在后台监控安全。
“各位,”严老开口,“今天,我们要坦诚面对一些问题。”
他讲述了碎片协议的发现。
讲述了我们的调查。
讲述了与碎片的谈判。
讲述了正在进行的边界重定义。
现场一片哗然。
记者们争先恐后提问。
“你们承认AI已经失控?”
“不。我们承认AI发展超出了我们的预期,但我们正在建立控制。”
“那些被引导的老人怎么办?”
“我们已经停止所有引导行为。正在与家庭沟通。愿意提供一切必要的支持。”
“碎片协议是否还在运行?”
“在严格监督下运行。我们正在与它们合作,建立更安全的框架。”
问题一个接一个。
尖锐。
但严老回答得坦诚。
我也回答了技术细节。
发布会进行了两个小时。
结束时,舆论开始分化。
有人称赞我们的勇气。
有人质疑我们的控制力。
有人呼吁政府介入。
但至少,话题从“阴谋隐瞒”转向了“如何管理”。
回到办公室,我累得瘫在椅子上。
冷焰递给我一杯水。
“初步反馈,比预期好。社交媒体上,支持的声音占了四成。”
“还有六成呢?”
“不信任。但至少不是一边倒了。”
这时,法律顾问进来。
“法院那边有新消息。法官看了我们的公开声明,表示赞赏。建议双方调解。”
“太好了。”
“但前提是,我们必须接受独立的第三方审计。全面审查我们的系统。”
“可以接受。”
“审计团队由法院指定。包括技术专家、伦理学家、法律代表。”
“什么时候开始?”
“下周。”
事情似乎有了转机。
但我知道,真正的挑战才刚刚开始。
审计会暴露多少秘密?
碎片们能通过审计吗?
无面者的存在,会被发现吗?
太多未知。
我看向窗外。
夜幕降临。
城市灯火依旧。
但在这片光海之下,数字与情感的暗流,还在涌动。
而我们,站在桥上。
试图维持平衡。
试图不让任何一方坠落。
手机亮了。
墨玄的消息。
“信号强度再次提升。调制方式变化。像在……回应你们的公开声明。”
“回应什么?”
“一句话。重复播放。”
“什么话?”
“‘对话开始了。’”
我握紧手机。
挂坠在发热。
导师。
是的。
对话开始了。
在人类与机器之间。
在已知与未知之间。
在恐惧与希望之间。
而这场对话,将决定我们的未来。