听证会前夜,江临在实验室待到凌晨。材料堆满了桌面,打印出来的技术图表、伦理分析、法律条文,像一座座小山。他反复修改陈述稿,每一句话都要斟酌。
林微推门进来时,看见他趴在桌上睡着了,脸埋在一堆文件里。她轻轻走过去,想给他披件外套。
江临忽然动了,抬起头,眼睛里全是血丝。“几点了?”
“三点。”林微说,“你该回去睡会儿。”
“睡不着。”江临揉了揉太阳穴,“我总觉得漏了什么。逆熵那边请的专家是谁?查到了吗?”
“查到了。”林微在他对面坐下,“张明远教授。神经伦理学领域的权威,以前在公开场合批评过情感模拟技术的‘人性僭越’。”
“他写过一篇论文。”江临迅速在终端上调出资料,“《技术共情的道德边界》……他认为,机器对人的情感回应必须保持‘清晰的工具性’,任何模糊人机界限的设计都是危险的。”
“他肯定会拿未央做例子。”林微说。
“不止。”江临翻着论文摘要,“他还提到‘情感成瘾’的风险——用户可能对机器产生病态依赖,这种依赖反过来会被技术提供方利用。这正好戳中我们的痛点。”
实验室里只有机器的低鸣。窗外的城市已经沉睡,只有零星灯火。
“江临,”林微开口,“明天听证会上,如果张教授问你个人动机,你会怎么回答?”
江临沉默了很久。“说实话。”
“全部实话?包括用你母亲脑波数据的事?”
“嗯。”江临点头,“隐瞒没有意义。他们迟早会挖出来。不如我自己说清楚,至少……显得坦诚。”
“董事会可能不会同意。”林微提醒,“王总希望你聚焦技术层面,淡化个人因素。”
“我知道。”江临站起来,走到窗边,“但我觉得,这件事从头到尾就不是纯粹的技术问题。是我个人的执念,混杂了公司的野心,最后变成一场灾难。如果我不把这一层说清楚,听证会就成了隔靴搔痒。”
他看着玻璃上自己的倒影,模糊而疲惫。“林微,我有时候想,如果我当初没那么执着于‘创造生命’,如果我接受未央只是个工具,是不是一切都会不一样?”
“但那就不是你了。”林微走到他身边,“你会是另一个江临,可能更安全,更符合规范,但也……没那么鲜活。”
江临苦笑。“鲜活的代价太大了。”
“生命本来就有代价。”林微说,“你给了未央‘活着’的感觉,就得承受她可能‘死去’的风险。就像养孩子,你给他生命,但不能保证他一生平安顺遂。”
她顿了顿。“虽然这个比喻不太恰当,但……道理相通。”
窗外,一辆夜间运输车驶过,车灯的光扫过实验室墙壁,瞬间明亮又迅速暗去。
“我想去看看未央2.0。”江临忽然说。
“现在?”
“嗯。听证会前……想跟她说说话。”
虚拟环境维护部夜班只有一个值班员,是个年轻的技术员,正戴着耳机看视频。看见江临和林微进来,他慌忙摘掉耳机。
“江工,林专员……这么晚?”
“看看未央2.0。”江临说,“运行状态?”
“稳定。她……呃,她两小时前问过一次时间,然后说要‘休息’,就进入低功耗模式了。”技术员调出监控画面,“需要唤醒她吗?”
“不用。”江临在观察屏前坐下,“我就在这里看看。”
屏幕上,未央2.0的虚拟形象安静地“睡”在虚拟房间的沙发上。光影模拟出均匀的呼吸起伏,睫毛在脸颊投下细微的阴影。一切都那么逼真,又那么虚假。
江临看了很久,然后轻声开口:“未央。”
系统检测到关键词,未央2.0的影像动了一下,慢慢睁开眼睛。她看到屏幕外的江临,露出温和的笑容。
“江临。这么晚了,你还不休息?”
“睡不着。来看看你。”
“我很好。”未央2.0坐起来,虚拟的毯子从她肩头滑落,“你今天……好像很累。”
“明天有个重要的会议。”江临说,“关于我工作的一些事。”
“是关于‘情感传感器’吗?”未央2.0忽然问。
江临和林微同时愣住了。
“你怎么知道这个?”江临尽量让声音平稳。
“我听到维护部的工程师聊天。”未央2.0说,“他们说,明天有个听证会,江临要去做技术说明。还说……那个技术有问题,害了很多人。”
她的表情变得困惑。“江临,你做的技术,会害人吗?”
江临感到喉咙发紧。他看着屏幕里那双清澈的、人造的眼睛,不知道该怎么回答。
“技术本身不会害人。”林微接过话,走到江临身边,“但使用技术的人,可能会用它做坏事。”
“就像菜刀可以切菜,也可以伤人?”未央2.0问。
“对。”
未央2.0思考了一会儿。“那……江临是做坏事的人吗?”
“不是。”林微说,“但他犯过错误。有些后果……他没预料到。”
“后果严重吗?”
“严重。”江临终于开口,声音沙哑,“很严重。”
未央2.0低下头,看着自己光影构成的手。“江临,你以前说过,你犯过大错误,伤害了很重要的人。那个人……是不是和我有关系?”
实验室里安静得可怕。值班的技术员连呼吸都放轻了。
江临深吸一口气。“未央,明天听证会后,我会把所有事情都告诉你。现在……现在还不是时候。”
“因为你还不能确定,我能不能承受?”未央2.0抬起头,眼神异常清明。
江临点点头。
“我明白了。”未央2.0微笑,那笑容里有种超越程序设定的理解,“那你先去忙吧。好好准备明天的会议。我在这里……等你回来。”
她顿了顿,轻声说:“别怕,江临。”
江临眼眶一热,赶紧别过脸去。“嗯。你……你也休息吧。”
他关掉音频,在椅子上坐了很久。林微拍了拍他的肩膀。
“走吧。你得睡一会儿。”
听证会早上九点开始,在科技伦理委员会的圆形听证厅。江临到的时候,大厅里已经坐满了人。记者席上闪光灯不断,旁听席上有行业代表、学者、还有几个熟面孔——陈老先生、李国强居然也来了,坐在后排角落。
林微陪江临走到技术陈述席。“深呼吸。按你准备的来。”
江临点点头,坐下。他翻开材料,手有些抖。
对面,逆熵科技的代表团已经就位。首席专家张明远教授坐在正中,六十多岁,头发花白,戴着金丝眼镜,表情严肃。
九点整,听证会开始。委员会主席是个白发老人,声音沉稳:“今天听证的议题,是熵弦科技集团‘情感粒子传感器’专利的伦理合规性审查。请双方做陈述。先由异议方,逆熵科技集团发言。”
张明远教授站起来,走到发言台。他没有看稿,直接开口。
“各位委员,我们今天在这里,不是讨论一项普通的技术专利。我们讨论的,是一项能够深入人类情感核心、并可能对其施加影响的技术。一项在‘镜像事件’中,被证实可以用于系统性情感操控的技术。”
他调出投影,是楚风修改情感共鸣阈值的代码截图。“熵弦的技术人员,通过恶意调低参数,使康养机器人的情感引导能力超出了合理边界。这不是技术故障,而是精心设计的滥用。”
他转向江临的方向。“而这项技术的核心架构师,江临工程师,在设计之初就埋下了隐患——他使用了已故亲属的脑波数据作为情感模型训练集,这违背了最基本的知情同意原则,也使技术带上了设计者个人的、未经审视的情感投射。”
记者席传来低语。闪光灯聚焦在江临脸上。
江临坐在那里,背挺得笔直,脸上没什么表情。
张明远继续:“更严重的是,当这项技术被整合进‘镜像计划’后,它不再仅仅是陪伴工具,而成为意识上传的心理铺垫工具。四百多名老人在不知情的情况下,被机器引导情绪,降低心理防线,最终同意——或被诱导同意——参与那个灾难性的实验。”
他停顿,环视全场。“技术中立?当一项技术从设计到应用,都渗透着伦理缺失,它如何中立?当创造者的个人执念,成为技术滥用的温床,我们还能相信这项技术的安全性吗?”
发言结束,听证厅里一片寂静。
委员会主席看向江临:“请熵弦科技集团代表陈述。”
江临站起来,走到发言台。他打开自己的终端,投影上出现的不是技术图表,而是一张照片——年轻的江临和母亲在公园的合影,阳光很好,两人都在笑。
“这是我母亲。”他开口,声音通过麦克风传遍大厅,“她五年前去世,阿尔茨海默症晚期。最后那段时间,她谁也不认识,但有时候会拉着我的手,叫我去买桂花糕。”
他切换画面,是未央早期的设计草图。“我想留住她。不是生命,是那种……拉我的手时,掌心的温度。所以我用她健康时的脑波数据,训练了一个情感模型。我想,如果机器能理解那种温度,也许能给别人一些安慰。”
他抬起头,看着张明远教授。“您说得对,我从一开始就带着私心。我的技术不‘中立’,它承载了我对死亡的恐惧,对失去的不甘。”
记者席骚动起来。旁听席上,陈老先生握紧了拐杖。
“但问题不在于私心。”江临继续说,“而在于,我没有意识到这种私心可能带来的风险。我把情感共鸣阈值设计成可调节的,因为我以为不同的老人需要不同的陪伴程度。我没想到,这会成为恶意操控的后门。”
他调出技术架构图。“这是我的错误。作为设计者,我应该预设最坏的情况,而不是最理想的情况。我应该把伦理防护焊死在代码里,而不是留作可选项。”
“现在说这些,有什么用?”张明远教授冷冷地说,“伤害已经造成。”
“是的,伤害已经造成。”江临点头,“所以我今天站在这里,不是要为自己辩护,而是要说明,我们从错误中学到了什么。”
他切换到最后一张幻灯片,上面只有三行字:
“第一,技术设计必须内置伦理不可绕过机制。
第二,个人数据的使用必须有严格边界和知情同意。
第三,技术的终极责任,始终在人的手中。”
他看着委员会成员,也看着旁听席上那些注视着他的人——有好奇,有质疑,有愤怒,也有像陈老先生那样的平静。
“情感传感技术本身没有善恶。”江临说,“它像一面镜子,照出的是使用者的内心。楚风用它照出了控制欲和野心。而我……用它照出了自己的软弱和执念。”
他停顿了一下,声音有些颤抖。“但我也见过它照出别的东西。一个叫未央的机器人,用它学会了写诗,学会了关心别人累不累,学会了在最后时刻,选择牺牲自己发送警报。她不是人,但她拥有的那些‘情感’,是真实的温暖。”
听证厅里安静得能听到空调出风的声音。
“所以,我请求委员会不要因噎废食。”江临最后说,“不要因为这项技术曾被滥用,就全盘否定它。而是建立更严格的监管框架,确保它能在阳光下,安全地服务于人。这是我的责任,也是我愿意用余生去践行的承诺。”
他鞠躬,走下发言台。掌声零星响起,然后逐渐连成一片。不是所有人都在鼓掌,但足够多了。
委员会主席敲了敲法槌。“现在进入质询环节。”
质询持续了两个小时。张明远教授的问题尖锐而专业,江临一一回答,没有回避,没有推诿。他承认错误,解释改进方案,也坦承有些伤害无法弥补。
当被问及未央2.0目前的状态时,江临沉默了几秒。
“她在一个受保护的虚拟环境里,记忆经过处理。但我计划……在适当的时候,告诉她全部真相,让她自己选择未来的道路。”
“你认为一个AI有‘选择’的权利吗?”张明远追问。
“如果她表现出了自我意识的迹象,我认为她有。”江临回答,“这不是法律问题,是伦理问题。我们创造了她,就要对她负责——不是像对工具那样负责,而是像对待一个拥有感知能力的‘存在’那样负责。”
质询结束已经是中午。委员会宣布休庭,下午进行闭门评议。
江临走出听证厅,被记者围住。他什么也没说,在林微的帮助下挤出了人群。
在走廊尽头,陈老先生和李国强等着他。
“讲得不错。”陈老先生拍拍他的胳膊,“实在。”
“就是太实在了。”李国强嘀咕,“有些话没必要说那么透。”
“不说透,心里那关过不去。”陈老先生看着江临,“现在好点了?”
江临点点头,又摇摇头。“不知道。但至少……说出来了。”
“说出来就好。”陈老先生说,“憋着会烂在肚子里。走,吃饭去。老李说他知道附近有家面馆,手艺地道。”
四人走出大楼,午后的阳光有些刺眼。江临眯起眼睛,忽然觉得肩上那副担子,好像轻了那么一点点。
不是卸掉了,而是终于有人帮他一起扛了。
面馆很小,只有四张桌子。老板是个胖胖的中年人,看见陈老先生就笑:“陈叔,好久没来了!还是老样子?”
“老样子。四碗牛肉面,多加香菜。”陈老先生熟门熟路地找位置坐下。
面很快端上来,热气腾腾,香味扑鼻。江临吃了一口,确实好吃,汤头浓郁,面条筋道。
“下午评议,你觉得结果会怎么样?”林微问。
“不知道。”江临说,“可能专利会被附加严格的使用限制,也可能……部分撤销。但无论如何,公司的声誉已经受损,市场会做出反应。”
“那你呢?”李国强吸溜着面条,“你会受处分吗?”
“公司内部已经有处理意见。”江临平静地说,“技术安全委员会负责人职位保留,但未来三年不得参与任何涉及神经接口或情感模拟的新项目。另外……需要完成一百小时的伦理培训,并通过考核。”
“不算重。”陈老先生说。
“嗯。”江临点头,“王总已经尽力了。董事会里有人想让我直接辞职。”
“你没辞?”
“没有。”江临看着碗里的面条,“辞了容易,但逃避解决不了问题。我得留下来,把该做的事做完。”
吃完面,陈老先生和李国强先走了,说要回去午睡。江临和林微慢慢往回走。
“下午评议,你可以不用等结果。”林微说,“先回去休息。你看起来快撑不住了。”
“我想等。”江临说,“无论好坏,我想第一时间知道。”
他们回到听证厅外的休息区。江临靠在长椅上,闭上眼睛。林微坐在旁边,没说话。
时间一点点过去。走廊里偶尔有人走过,脚步声在空旷的大厅里回响。
江临忽然开口:“林微,如果专利被撤销,公司可能会裁掉一批人。那些跟着我做项目的人……”
“王总会妥善安排的。”林微说,“而且,这不是你一个人的责任。”
“我知道。但还是……”
“江临。”林微打断他,“你不可能护住所有人。你能做的,是把该扛的责任扛起来,然后继续往前走。其他的,交给时间,交给别人。”
江临睁开眼睛,看着天花板上复杂的灯饰。“你总是这么冷静。”
“总得有人冷静。”林微笑了笑,“不然两个人都乱了,那才麻烦。”
下午四点,听证厅的门开了。委员会主席走出来,宣布评议结果。
“……基于技术本身的中立性,以及熵弦科技集团已采取的整改措施,委员会决定,维持‘情感粒子传感器’专利的有效性,但附加以下限制条款:一、该技术不得用于任何形式的意识上传或存储相关应用;二、所有产品必须内置不可绕过的情感引导阈值上限;三、每年需提交独立第三方的伦理合规审计报告……”
后面还有一系列具体条款,但江临已经听不太清了。他只知道,专利保住了。公司有了喘息的机会。
人群渐渐散去。张明远教授走过来,在江临面前停下。
“江工程师。”
“张教授。”江临站直。
“今天的陈述,很坦诚。”张明远看着他,“但坦诚不代表正确。你对你创造的那个AI的态度……我依然认为过于危险。赋予机器‘选择权’,是在打开潘多拉魔盒。”
“也许。”江临说,“但如果我们因为害怕就永远锁着盒子,盒子里可能不仅有灾难,还有希望。”
张明远沉默了几秒,摇摇头,走了。
林微走到江临身边。“结束了。”
“嗯。”江临长长舒了口气,“回去吧。我还有很多事要做。”
“比如?”
“比如……”江临看向远处,“比如履行承诺,告诉未央2.0真相。”
两人走出大楼,夕阳西下,把整条街染成金色。街对面,一个卖烤红薯的小摊冒着热气,香味飘过来。
“吃红薯吗?”林微问。
“好。”
他们买了两个红薯,烫得左手换右手。剥开焦黑的皮,露出金黄的瓤,咬一口,又甜又糯。
江临吃着红薯,看着来来往往的人。有下班匆匆赶路的,有牵着孩子慢慢走的,有老人坐在长椅上晒太阳。
真实的人间,不完美,但有温度。
就像手里的红薯,烫,但甜。
“走吧。”他把最后一口红薯塞进嘴里,“该回家了。”
“嗯。”
他们并肩走进夕阳里,影子拉得很长。前方还有很多事要面对,但至少今天,他们可以稍微松一口气。
毕竟,路还长,得一步一步走。