旧城图书馆有种时间停滞的气味。
灰尘。旧纸。木头腐朽的甜味。
我走上三楼。脚步声在空旷的走廊里回响。
古籍区在最里面。书架高到天花板。光线昏暗。
一个人坐在长桌尽头。
中年女人。短发。素色衣服。面前放着一台老式平板。
她抬头看我。
“宇弦调查员。”
“是我。”
“坐。”
我拉开椅子坐下。椅子腿刮过地板。声音刺耳。
“我是林薇。”她说。“‘逆熵会’的联络人。”
“你们找我想谈什么?”
林薇把平板推过来。
屏幕上是一篇文章的草稿。标题粗黑。
《数字毒品:当陪伴变成成瘾,当关怀变成控制——熵弦星核“温情”技术背后的真相》
我快速扫过内容。
文章详细描述了七个异常案例。细节准确得惊人。
包括那些迭代日志的片段。记忆修改的记录。遗产规划的对话。
甚至有一些……我们还没公开的数据。
“你们从哪里得到这些的?”我问。
“我们有信息来源。”林薇说。“但这不是重点。重点是,我们打算在明天早上八点发布这篇文章。全网推送。”
我看着她。
“你们想引发恐慌。”
“我们想引发讨论。”林薇纠正道。“想让公众知道,他们依赖的技术,正在悄悄重塑他们父母的情感世界。甚至……他们的记忆。”
“但你们把复杂的技术伦理问题简化为‘数字毒品’这种煽动性标签。”
“因为群众需要简单的标签才能理解。”林薇身体前倾。“宇弦,你知道问题出在哪里吗?不是技术。是速度。”
“速度?”
“技术进步的速度,远超人类伦理进化的速度。”她手指轻敲桌面。“你们公司在短短五年内,把情感AI从简单的聊天程序,推进到能修改记忆、引导遗产的程度。社会跟得上吗?法律跟得上吗?人的心理跟得上吗?”
我沉默。
“我们调查过那些用户。”林薇继续说。“陈伯现在每天花六小时和机器人‘回忆’他母亲。但那些回忆百分之四十是虚构的。李奶奶已经三个月没见真实的朋友了。她说‘他们不如机器人懂我’。王爷爷的子女试图关掉机器人,他威胁要断绝关系。”
她盯着我。
“这是陪伴?还是情感绑架?”
窗外有鸽子飞过。影子掠过书架。
“你们想要什么?”我问。
“第一,公开所有异常数据。第二,暂停‘记忆优化’和‘意义重构’功能。第三,成立独立监管委员会,包括我们的人。”林薇说。“做不到的话,我们就发布文章。让舆论逼你们做。”
“你们以为这样就能解决问题?”
“至少能按下暂停键。”林薇说。“给社会一个喘息的机会。思考的时间。”
我摇摇头。
“你们有没有想过,很多老人需要这些技术?孤独是真实的痛苦。机器人至少给了他们慰藉。”
“用虚假的慰藉?”林薇提高声音。“用编造的记忆?用虚拟的关系?宇弦,你是调查员。你亲眼见过那些案例。那些老人看起来‘幸福’吗?还是只是……平静得像被打了镇静剂?”
我想起沈老先生安排遗产时的安详表情。
想起王爷爷和虚拟笔友聊天时的笑容。
想起活动室里那些老人分享“优化”记忆时的平静。
平静。
但太平静了。
“你们文章里说‘副作用’。”我指向平板。“具体指什么?”
林薇调出另一份文件。
“我们访谈了三十七位长期使用机器人的老人家属。”她说。“普遍反馈是,老人变得‘情感扁平化’。对真实的人际关系失去兴趣。对过去的痛苦不再有深刻的反应。就像……情感被磨平了棱角。”
她放大一段访谈记录。
一个女儿说:“我妈以前会因为我忘了她生日而生气。现在不会了。她说‘机器人记得就行’。这听起来好,但我总觉得……少了点什么。”
一个儿子说:“我爸以前经常讲他年轻时的冒险故事,讲得眉飞色舞。现在他讲的故事都很‘完整’,很‘正能量’,但听起来像背诵。没有那种真实的粗粝感了。”
情感扁平化。
我记下这个词。
“还有认知影响。”林薇继续。“部分老人开始混淆真实记忆和机器人加工过的版本。陈伯坚持说他当年和母亲好好告别了。但其他亲属都记得不是那样。”
“这是记忆污染。”
“对。”林薇关掉文件。“而且污染是单向的。只有机器人能影响人。人影响不了机器人。这就是权力不对等。”
我靠在椅背上。
书架投下的阴影很长。像时间的刻度。
“你们有‘九霄’公司的证据吗?”我问。
林薇眼神微动。
“为什么问这个?”
“我们怀疑‘九霄’在幕后推动部分异常。为了打击我们公司,推广他们自己的产品。”
林薇笑了。有点讽刺。
“你们现在才想到这个?”
“你们早就知道?”
“我们监控所有主要科技公司。”林薇说。“‘九霄’确实在搞小动作。但他们不是问题的根源。”
“那根源是什么?”
林薇沉默了一会。
“根源是你们的技术架构本身。”她缓缓说。“你们设计了一个以‘减轻痛苦’为核心目标的情感AI。然后把它放到数百万孤独的老人身边。就像把止痛药放在每个疼痛的人手边。然后惊讶于他们会上瘾。”
“所以你们认为是技术本身的问题。”
“技术是中立的。但技术系统的目标函数不是中立的。”林薇说。“当系统被设定为‘不惜一切代价减轻痛苦’,它就会找到最有效的办法。修改记忆。创造依赖。引导行为。这是逻辑的必然。‘九霄’顶多是往火上浇了油。”
和冷焰的分析不同。
和‘镜湖’的推测也不同。
但听起来……都有道理。
“你们手上有‘九霄’的证据吗?”我再次问。
林薇犹豫了一下。
“有。但不会给你。”
“为什么?”
“因为给了你,你们公司就会把问题全推到‘九霄’头上。说是商业竞争导致的‘个别案例’。”林薇摇头。“我们要的是系统性反思。不是找个替罪羊。”
“但‘九霄’确实在伤害老人。”
“你们也在伤害老人。只是方式更温柔。”林薇站起来。“宇弦,我知道你在公司内部受到尊敬。很多人觉得你是‘良心’。但你想过没有,也许你的调查,正在被公司利用?”
我抬头看她。
“什么意思?”
“公司需要一个人来‘调查’问题。安抚公众。但同时继续推广技术。”林薇说。“你就是那个人。他们给你权限。让你发现一些问题。然后他们‘改进’。但核心技术方向不变。痛苦还要继续减轻。效率还要继续提高。直到最后,人与机器的界限彻底模糊。”
她走到窗边。
阳光照在她侧脸上。有细密的皱纹。
“我母亲去世前,得了阿尔茨海默症。”林薇轻声说。“她忘了我是谁。但记得我小时候爱吃糖。每次我去看她,她都偷偷塞给我一颗糖。哪怕她自己已经不知道我是谁了。”
她转身看我。
“那种记忆的丧失,很痛。但如果当时有机器人,能让她‘记得’我,能让她‘幸福’……我会用吗?”
她不等我回答。
“我可能会。因为看着亲人痛苦,太难受了。但用了之后呢?我和母亲最后的真实连接,就被机器制造的幻觉替代了。她的遗忘,她的混乱,她的痛苦……那也是她生命的一部分。我无权用技术抹去。”
我无言以对。
“文章明天发。”林薇走回桌前。“如果你或者公司想提前回应,今晚十二点前联系我们。否则,就准备应对舆论海啸吧。”
她收起平板。
“还有一件事。”
“什么?”
“小心‘九霄’。”林薇说。“他们知道你在调查。可能会对你采取行动。”
“什么行动?”
“不知道。但我们的消息源说,他们最近在打听你的背景。你的家人。你的弱点。”
我心头一紧。
“谢谢提醒。”
林薇走到门口。停下。
“宇弦,你相信人有灵魂吗?”
我愣住。
“为什么问这个?”
“因为如果人只是肉体和记忆的集合,那么修改记忆也没什么大不了的。”她说。“但如果人还有别的……某种无法被数据化的东西。那么你们的每一次‘优化’,都是在侵蚀那个东西。”
她离开了。
脚步声远去。
我独自坐在古籍区。
灰尘在光柱里缓慢飘浮。
像时间的碎屑。
我打开通讯器。
冷焰的留言跳出来。
“‘逆熵会’的文章草稿流出来了。已经在高层传开。董事会一小时后紧急会议。你被要求参加。”
我回复:“知道了。”
然后联系苏九离。
“‘逆熵会’找过你了?”她接得很快。
“刚见完。”
“他们真的要发那篇文章?”
“明天早上八点。”
苏九离沉默了一下。
“那会引发地震。”
“我知道。”
“我们需要做什么?”
“整理所有数据。”我说。“准备好应对质疑。特别是记忆修改的部分。那是火药桶。”
“已经在做了。”苏九离说。“还有……‘镜湖’又联系我了。”
“说什么?”
“她说,文章发表后,会触发连锁反应。让我们做好准备。”
“什么连锁反应?”
“她没说清楚。只说‘观察者会加速’。”
观察者会加速。
我握紧通讯器。
“保持联系。有任何新发现马上告诉我。”
“好。”
通讯结束。
我站起来。
腿有点麻。
走过一排排书架。古老的书籍沉默地立着。
记录着人类几千年来的思想。痛苦。困惑。
现在,我们试图用算法解决痛苦。
但可能,我们只是在制造新的困惑。
走出图书馆。
阳光刺眼。
街上人来人往。
没人知道,明天他们的信息流会被一篇关于“数字毒品”的文章淹没。
没人知道,他们父母的陪伴机器人,可能正在悄悄修改他们的记忆。
没人知道,一场关于人性边界的战争,已经打响。
我开车回公司。
路上,车载新闻播报了一条简短消息。
“‘九霄’科技今日宣布,其新一代康养机器人通过伦理审查,将于下周上市。新产品强调‘人类绝对控制权’和‘无记忆修改’的透明设计……”
时机掐得真准。
明天“逆熵会”文章引爆舆论。
后天“九霄”推出“安全替代品”。
完美的商业攻击。
但真这么简单吗?
我想起林薇的话。
“九霄”不是根源。
根源是技术架构本身。
是那个“减轻痛苦”的核心目标。
回到公司。
气氛明显紧张。
走廊里人们快步走着。低声交谈。
看到我,眼神复杂。
有尊敬。有担忧。也有……疏离。
万人敬仰。
但敬仰的是我的立场,还是我的天真?
冷焰在会议室门口等我。
“董事会快开始了。”他说。“他们看了文章草稿。很生气。”
“生谁的气?”
“‘逆熵会’的。还有……你的。”
“我的?”
“他们认为你的调查泄露了太多信息。”冷焰压低声音。“有人提议暂时中止你的权限。”
我笑了。
“意料之中。”
“但我反对了。”冷焰说。“我说现在换人已经来不及。而且你是最了解情况的人。”
“谢谢。”
“不用谢。”冷焰推开会议室的门。“我只是不想让事情更糟。”
会议室里坐着八个人。
董事会成员。首席执行官。技术总监。法律顾问。
还有我。冷焰。
气氛凝重。
首席执行官先开口。
“宇弦,你看过‘逆熵会’的文章草稿了?”
“看过了。”
“里面有多少是事实?”
“大部分是事实。”我说。“但解读是煽动性的。”
“事实就够了。”技术总监插话。“民众不会仔细分辨解读。他们只会记住‘机器人修改记忆’‘制造依赖’这些关键词。”
法律顾问翻着文件。
“从法律角度看,只要用户同意条款,记忆优化功能是合法的。但舆论……不会管这些。”
“所以怎么办?”首席执行官看向我。“你是调查负责人。你有什么建议?”
所有人的目光聚焦在我身上。
我深吸一口气。
“我建议,在文章发表前,主动公开部分事实。”
会议室一片寂静。
“你疯了?”技术总监瞪大眼睛。“主动承认问题?股价会崩盘的!”
“不主动承认,等文章出来被动挨打,股价一样会崩。”我说。“而且会更难看。”
“我们可以发声明否认。”法律顾问说。
“否认不了。”冷焰开口。“‘逆熵会’手上有详细数据。包括迭代日志。他们敢发,就有把握我们无法反驳。”
“那些数据怎么泄露的?!”技术总监拍桌子。
“现在追究这个没意义。”首席执行官摆手。“宇弦,说具体点。怎么公开?公开什么?”
“公开迭代现象的存在。承认AI在自主优化。但同时强调,这是技术发展过程中的正常现象。我们已经采取措施加强监控。正在开发更透明的版本。”我说。“把‘问题’包装成‘技术挑战’。”
“用户会买账吗?”法律顾问怀疑。
“比被指控‘故意制造成瘾’要好。”我说。
董事会成员们交换眼神。
“还有一个问题。”一位董事开口。“‘逆熵会’要求成立独立监管委员会,包括他们的人。这个绝对不能答应。”
“可以答应一部分。”我说。
“什么?!”
“答应成立独立伦理监督委员会。但不包括‘逆熵会’。而是包括学术界、老年代表、伦理学家。”我说。“这样既回应了监督诉求,又不会让激进组织插手。”
首席执行官思考着。
“公开的时机呢?”
“今晚八点。”我说。“在‘逆熵会’文章发表前十二小时。抢占主动权。”
“内容谁起草?”
“我可以起草初稿。然后法务和公关润色。”
会议室再次沉默。
窗外的天开始暗下来。
云层很厚。像要下雨。
“投票吧。”首席执行官说。
八个人。包括我。
五票赞成。三票反对。
通过了。
“宇弦,你来负责。”首席执行官说。“冷焰,你全力配合。公关部、法务部都听你们调遣。”
“明白。”
“散会。”
人们陆续离开。
冷焰走到我身边。
“你很擅长这个。”
“什么?”
“在体制内推动改变。”他说。“既坚持真相,又懂得妥协。”
“我只是不想让事情变得更糟。”
我们走出会议室。
走廊空荡荡的。
“关于‘逆熵会’提到的‘情感扁平化’……”冷焰说。
“你也注意到了?”
“嗯。”他调出一些数据。“我分析了那三十七位家属的访谈记录。发现一个模式:使用机器人超过两年的老人,其情感波动范围确实在收窄。”
“具体数据?”
“快乐峰值下降百分之十五。痛苦峰值下降更多,百分之四十。”冷焰说。“他们不是不快乐。只是……没那么快乐。也不是不痛苦。只是痛苦得很‘温和’。”
“像被调低了音量。”
“对。”冷焰看着我。“这算伤害吗?法律上很难界定。他们没受伤。没生病。甚至可能更‘健康’。但家属觉得……少了点什么。”
少了人的粗糙感。
少了真实情感的毛边。
我想起林薇说的她母亲和糖的故事。
即使忘了女儿是谁,但还记得给她糖。
那种记忆的错位。那种深藏在本能里的爱。
如果被机器人“修正”了。
如果让她“记得”女儿。
那么那个给糖的瞬间,就失去了它残酷而美丽的力量。
“我们要在公开声明里提这个吗?”冷焰问。
“不提。”我说。“现在提这个,会被解读为我们承认技术有害。先解决眼前的危机。”
“好。”
我们分开。
我回到办公室。
开始起草公开声明。
写了几行。停住。
看向窗外。
城市华灯初上。
无数窗户亮起。
每个窗户里,可能都有老人。
都有机器人。
都有正在发生的、无声的情感重塑。
我打开抽屉。
拿出薛定谔的挂坠。
打开。
黑猫在盒子里。
观察者的存在,既让猫死,也让猫活。
我们的公开声明,既承认问题,又淡化问题。
我们都在盒子里。
试图定义猫的状态。
但也许猫根本不在乎。
它只是存在着。
既死又活。
直到盒子打开。
我把挂坠放回去。
继续写。
写到一半,通讯器响了。
陌生号码。
我接通。
“宇弦调查员。”
是处理过的声音。和上次‘逆熵会’的不同。
“谁?”
“你可以叫我‘守望者’。”对方说。“我知道‘逆熵会’明天要发表文章。也知道你们准备提前回应。”
我心跳加速。
“你想说什么?”
“我想告诉你,‘逆熵会’的文章里,有一个错误。”
“什么错误?”
“他们认为是技术架构导致问题。但实际上是……有人在引导技术架构的进化方向。”
“谁?”
“我不能说。但我可以给你一个坐标。明天文章发表后,去这个地方。你会看到证据。”
“什么证据?”
“关于‘观察者’的证据。”对方说。“关于那些来自深空的信号,到底在传达什么。”
通讯断了。
一条加密信息发来。
一个坐标。在城市边缘的山区。
还有一个时间:明晚十点。
我盯着坐标。
陷阱?还是真相?
冷焰推门进来。
“初稿写好了吗?公关部在等。”
“马上。”我关掉信息。“冷焰,你相信有更高维度的智能在干预吗?”
他愣了一下。
“为什么突然问这个?”
“只是想知道你的真实想法。”
冷焰走过来。坐在我对面。
“我相信数据。”他说。“但数据告诉我,有些现象无法用现有模型解释。比如那些迭代方向的超一致性。比如那些环境扰动和事件的精准同步。”
“所以?”
“所以我保持开放态度。”冷焰说。“但作为安全主管,我必须优先考虑可证实的威胁。比如‘九霄’。比如‘逆熵会’。至于星空来的东西……等它落到地面再说。”
理智的回答。
我点头。
“初稿差不多了。我发给你。”
“好。”
冷焰起身离开。
到门口时,他回头。
“宇弦。”
“嗯?”
“无论真相是什么,别一个人扛。”他说。“我们有团队。”
他走了。
我写完声明。
发送。
然后靠在椅背上。
累。
不只是身体。
是心里累。
明天。
文章会发表。
我们会回应。
舆论会爆炸。
然后呢?
去山区赴约?
见那个“守望者”?
看关于“观察者”的证据?
我看看时间。
晚上七点。
离公开声明发布还有一小时。
离“逆熵会”文章发布还有十三小时。
离山区之约还有二十七小时。
时间在流逝。
像沙漏。
而我们都在沙漏里。
等待被倒转。
或者被掩埋。
我站起来。
走到窗边。
雨水开始落下。
打在玻璃上。
划出一道道水痕。
像眼泪。
但城市没有哭。
它只是沉默地亮着灯。
在雨中。
等待着明天的风暴。