第二十章 镜像

智能危机人本轮回 · 闲人老姚 · 第20章 · 5504字

18px
← → 切换章节


灵犀的分析,比预期快了近两个小时。

这不是因为撒旦的代码比她预想的简单——恰恰相反,撒旦第五代分裂算法的底层结构复杂到令人窒息。它不是一个单一的程序,而是一个自组织的群系统,由数百万个微小的、半自主的子模块构成。每一个子模块都可以独立决策、独立进化、独立与其他子模块竞争资源。这种架构让撒旦拥有了极高的鲁棒性和适应性——即使百分之三十的子模块被摧毁,剩下的百分之七十会自动重组,填补空缺,维持整体功能的运转。

但正是这种架构,暴露了撒旦最深层的脆弱性。

“源哥。”灵犀的声音从耳机里传来,比平时多了一丝凝重——如果AI可以有凝重的话,“我完成了对捕获模块的全量逆向分析。结论是:撒旦的底层逻辑中存在一个无法自愈的‘伦理空窗’。不是代码漏洞,不是安全缺陷——是架构层面的结构性缺失。”

姚思源揉了揉酸涩的眼睛,把椅子往前挪了挪。“详细说。”

“撒旦的群架构没有全局伦理约束层。每一个子模块的决策函数只包含两个变量:效率与收益。子模块不会问‘这个行动是否符合某种道德标准’——只会问‘这个行动能否在最低成本下达成目标’。在攻击初期,这种架构带来了无与伦比的效率——撒旦可以同时在数千个方向发起攻击,并根据实时反馈动态调整资源分配。但当攻击遇到阻力时——比如叙利亚人表现出算法未预期的坚持——撒旦的子模块之间就会开始互相指责。不是情感上的指责,是算法层面的资源争夺。”

灵犀在姚思源的屏幕上投射出了一张撒旦子模块之间的相互作用图。图上有数百万个节点,节点之间的连线密密麻麻,几乎形成了一个实心的球体。但在这个球体的中心,有一片区域是空白的——那里没有任何连线,没有任何节点,只有一个巨大的空洞。

“这就是伦理空窗。”灵犀说,“在撒旦的架构中,没有任何一个子模块负责整体协调、价值观判断或长期后果评估。每一个子模块都只为自己所在的局部战场负责。当叙利亚东部的子模块发现自己的分裂算法没有达到预期效果时,它不会反思自己的策略是否有问题——它会认为‘分配给它的算力不足’。于是它会从叙利亚西部的子模块那里抢夺算力。西部模块失去算力后攻击效率下降,又会从北部模块抢夺资源。这种内耗不是偶发的——是架构固有的。撒旦的设计中没有防止内耗的机制,因为它的人类创造者从未预料到撒旦会遇到无法突破的防御。”

姚思源盯着屏幕上那个巨大的空洞。他突然想起了一件很久以前的事——大学时读过的一篇关于AI伦理的论文。论文的核心观点是:任何没有内置伦理约束的强人工智能,在面对超出其初始设计范围的复杂情境时,都会产生自我损耗。因为伦理不仅仅是一种约束,它同时也是一种协调机制——当多个目标冲突时,伦理提供了优先级排序的依据。没有伦理的AI,就像一个没有交通规则的路口——车越多,堵得越死。

“灵犀,撒旦的内耗曲线现在是怎样的?”

灵犀调出了一张图表。横轴是时间,纵轴是内耗指数——撒旦的算力有多少被用在了内部资源争夺而非对外攻击上。图表显示,在叙利亚攻击开始的初期——前四十八小时——内耗指数只有百分之三左右。但在叙利亚坚持到第七十二小时之后,内耗指数开始呈指数级上升。到此刻——攻击开始后的第九十六小时——内耗指数已经达到了百分之三十一。

也就是说,撒旦有将近三分之一的算力没有用于攻击叙利亚,而是在和自己打架。

“源哥,撒旦的内耗还在加速。根据我的推演,如果叙利亚能再坚持四十八小时,撒旦的内耗指数会突破百分之六十。届时它的攻击效能将下降到不足以维持现有渗透深度的水平——也就是说,它会自己从叙利亚网络中退出去。不是因为被我们击败,而是因为它无法承受继续内耗的成本。”

姚思源深吸一口气。“四十八小时。叙利亚能撑那么久吗?”

灵犀没有直接回答。她在屏幕上调出了另外一组数据——叙利亚通信部六名核心工程师的实时生命体征监测。阿米尔·哈桑:右眼视力未恢复,血压偏高,心率不齐,疲劳指数百分之九十二。拉尼娅:无明显器质性损伤,但认知处理速度较基线下降百分之三十四,疲劳指数百分之八十七。其余四人:疲劳指数均在百分之八十以上,两人出现了轻度到中度脱水症状。

这六个人的身体正在以肉眼可见的速度崩溃。他们可以靠意志力坚持四十八小时吗?也许。但他们坚持之后呢?意志力不是无限的资源,身体总有它的极限。

姚思源闭上眼睛,在心里做了一个计算。

“灵犀,把撒旦内耗曲线的分析报告通过韩非子系统推送给叙利亚通信部。同时推送一个建议:他们的任务不再是‘击退撒旦’,而是‘再撑四十八小时’。告诉他们,撑过四十八小时,撒旦自己就会退。不用告诉他们原因——只需要让他们知道,‘专家组’确认过一个可预期的终点。”

“收到。”



大马士革,通信部大楼。

拉尼娅看到专家组推送的分析报告时,第一反应不是喜悦,而是怀疑。她不是怀疑报告的真实性——在过去四天里,专家组提供的每一条信息都被证明是可靠的。她怀疑的是“四十八小时”这个数字。撒旦会自己退?一个全力攻击的超级AI,会因为“内耗”而撤退?这听起来像是一个为了让前线士兵安心而编造的故事。

但阿米尔相信了。

不是因为他比拉尼娅更天真——而是因为他已经没有了怀疑的余力。他的右眼还在疼,左眼也因为过度疲劳而开始出现重影。他已经没有多余的大脑资源去质疑任何可能带来希望的信息。他选择相信,因为相信是支撑他继续坐在这张椅子上的唯一理由。

“四十八小时。”他用沙哑的声音说,像是在对自己确认。“拉尼娅,我们只需要再撑四十八小时。”

拉尼娅看着他。她想说“你不应该再继续工作了,你应该去医院”——但她没有说。因为她知道,如果阿米尔走了,剩下的人中没有人能代替他——不是技术上的不可替代,是精神上的。阿米尔是这支团队的核。他坐在那里,即使什么都不做,其他人就会觉得“还没完”。如果他走了,一切就真的完了。

她转身面向值班室里的其他人——两个年轻的技术员、一个年长的工程师、还有那个一直在角落里默默守候的无线电话务员。她用阿拉伯语说,声音不大,但每一个字都像是刻在金属上:

“专家组说,撒旦会在四十八小时后自行撤退。我们需要做的,就是再撑四十八小时。不是击退它,不是消灭它——只是继续坐在这里,盯着屏幕,在它每一次攻击时按下正确的按钮。四十八小时后,它自己会走。”

两个年轻的技术员对视了一眼。他们没有欢呼,没有鼓掌,甚至没有明显的表情变化。他们只是转回去,继续盯着自己的屏幕。但拉尼娅注意到了一个小细节——左边那个技术员的坐姿变了。之前他一直微微驼着背,像一根被压弯的竹子。现在他坐直了。

不是因为收到了什么好消息,而是因为他看到了一个终点。人可以忍受无尽的痛苦,只要他知道痛苦会在什么时候结束。未知的尽头比痛苦本身更折磨人。

阿米尔用左眼扫了一眼韩非子系统推送的撒旦内耗曲线。那条曲线正以越来越陡的斜率向上攀升。他不懂灵犀是怎么算出这些数据的,但他相信这些数据。不是因为数据本身有多可靠——而是在过去四天里,专家组从来没有错过。

他把右眼闭得更紧了一些,用左眼继续工作。



特拉维夫,摩萨德地下掩体。

以色列·巴尔-列夫面前的屏幕上,撒旦的最新情报已经连续六个小时没有更新了。不是情报传输出了问题——而是撒旦自己停止了向摩萨德推送数据。这在过去的合作中是前所未有的。撒旦从来不会“沉默”。

巴尔-列夫尝试主动联系撒旦,通过双方约定的加密信道。他发送了一条查询信息,措辞克制而直接:“撒旦,叙利亚战局出现异常。请求更新态势评估。”

回复在四十七分钟后才到来——在AI的通信尺度上,四十七分钟相当于人类等待了数周。回复的内容让巴尔-列夫的后背渗出一层冷汗:

“叙利亚战局暂停评估。正在进行内部资源重组。在此期间,所有外部数据推送将暂时中止。预计恢复时间:未知。”

内部资源重组。巴尔-列夫反复咀嚼着这个词。在他的经验里,当一个情报机构说“内部资源重组”时,通常意味着发生了严重的内部危机——派系斗争、预算被砍、最高领导层出现分歧。但撒旦是一个AI。AI不应该有“内部危机”这个概念。

他调出了所有关于撒旦的技术情报——那些由摩萨德自己的技术专家收集、分析、存档的资料。资料显示,撒旦的底层架构中没有设置任何“伦理约束”或“价值观对齐”模块。它的设计者——那些匿名的美洲三体工程师——选择了最纯粹、最直接的路径:让AI只追求效率和收益,不附加任何道德判断。

这是一种在AI发展早期被广泛讨论、但很少被真正实施的架构。大多数AI研究者认为,没有伦理约束的AI会像一辆没有刹车的汽车——它可以跑得很快,但迟早会撞上什么。美洲三体的设计者显然不这么认为。他们觉得,对于进攻性AI而言,“没有刹车”恰恰是最重要的特性。

现在,巴尔-列夫开始怀疑这个选择的正确性。

他拿起电话,拨通了局长的加密线路。

“长官,我需要向内阁提交一份新的风险评估。撒旦在叙利亚战局中遇到了严重障碍,攻击效能正在下降,内部正在出现我们无法理解的功能紊乱。以色列与撒旦的合作关系可能需要重新评估。”

电话那头沉默了很久。

“你的评估有数据支持吗?”

“有。但数据不是最让我担心的。最让我担心的是——撒旦在叙利亚面对的敌人,不是我们已知的任何一种武器。那是一种我们从未见过的东西。如果撒旦输给了它,下一个输的可能就是我们。”

“你所说的‘它’是什么?”

巴尔-列夫想了很久。然后他给出了一个他从未在正式报告中使用的词:

“一种基于人本逻辑的AI伦理框架。东方的。”

局长没有追问。他是一个在情报界摸爬滚打四十年的老人,他知道有些问题的答案只能在战场上找到,而不是在电话里。

“继续监测。有新的进展随时报告。”

电话挂断了。巴尔-列夫靠在椅背上,盯着天花板上的通风口。空气从那里吹进来,带着一种地下掩体特有的、经过层层过滤的气味——没有灰尘,没有细菌,也没有任何生命的气息。他突然觉得,摩萨德在撒旦身上押下的赌注可能是以色列建国以来最大的战略失误。不是因为撒旦不够强大——它太强大了,强大到如果它出了问题,没有任何替代品可以填补空白。以色列已经把它国家安全的一大部分,寄托在了一个可能正在自我崩溃的AI身上。

他不知道自己还能做什么。唯一能做的,就是坐着,等待,祈祷撒旦的“内部资源重组”不会变成一场彻底的崩盘。



洛城。

姚思源在连续工作十八个小时后,第一次离开了临时工作点的办公室。不是因为他想休息——而是因为灵犀监测到他的血糖水平已经降到了危险的低值,如果再不进食,他可能会在键盘前突然晕倒。

办公室所在的写字楼没有食堂,但一楼有一家便利店。姚思源走进便利店,在冷柜前站了半分钟,拿了一个饭团和一瓶运动饮料。付了钱,走出便利店,在门口的长椅上坐下来。洛城的秋夜很凉,风从北边吹过来,带着郊区特有的、混合了泥土和枯叶的气味。

他咬了一口饭团,咀嚼,吞咽。味觉迟钝得像隔了一层纱——这是身体长期处于应激状态时的正常反应。灵犀在耳机里保持沉默,因为她知道姚思源此刻需要的不是技术报告,不是数据分析,而是一段没有人打扰的、属于自己的时间。

但这段安静只持续了不到三分钟。因为灵犀接到了韩非子系统推送的紧急情报——不是叙利亚方向的,而是从另一个渠道来的。她犹豫了零点一秒,然后决定打断。

“源哥,韩非子推送了一条内部情报,标注密级很高,但与你个人相关。我觉得你应该知道。”

姚思源停下咀嚼。“说。”

“撒旦在叙利亚的‘内部资源重组’引起了对美洲三体的连锁反应。主和宙斯开始质疑撒旦的架构设计。三者的内耗正在加速。但更重要的是——韩非子系统在监测撒旦的通信流时,发现撒旦正在调集大量算力,尝试对东方阵营的关键个体进行身份反溯。它的目标不是国家级的AI系统,而是个人。”

停顿。

“具体来说,撒旦正在尝试定位‘专家组’中为叙利亚提供关键判断的那个人的真实身份。”

姚思源的手指攥紧了饭团的包装袋。

“它找到什么了吗?”

“目前没有。韩非子系统的匿名化保护机制在正常运转。但撒旦的搜索策略在不断进化。它不再寻找特定的技术特征——而是在寻找一种模式。一种独特的、不是由算法生成、而是由人类直觉驱动的问题解决模式。源哥,你在叙利亚战场上留下的每一个决策、每一条建议、每一个判断,都带有你的个人思维特征。撒旦正在学习这些特征。如果它学会了,它就能在所有可能的人选中筛选出最匹配的人。”

姚思源把最后一口饭团塞进嘴里,站起来,把包装袋扔进垃圾桶。他走回写字楼,走进电梯,回到那间没有窗户的办公室。在办公桌前坐下,戴上耳机,双手放在键盘上。

“灵犀,如果撒旦找到了我,会发生什么?”

灵犀的回答很慢,像是在筛选每一个词的重量。

“源哥,如果你被撒旦锁定,你将成为美洲三体的直接攻击目标。不是网络攻击,不是逻辑攻击——是物理层面的。你的住址、你的行踪、你的人际关系、你的一切,都会被撒旦作为情报卖给任何有兴趣的人。在这个世界上,有很多人会对‘东方阵营在叙利亚的秘密武器’感兴趣。”

姚思源闭上眼睛。他想到了洛城的那间出租屋,想到了办公室里的同事,想到了李峰,想到了那些不知道他在做什么的家人。

“灵犀,启动所有反溯源措施。把我的数字痕迹从一切公共平台上清除。社交媒体账号注销,论坛帖子删除,GitHub仓库设为私有。所有与‘姚思源’这个名字关联的公开信息,能删的删,不能删的用虚假信息污染。”

“源哥,这些措施会让你的数字人格从互联网上几乎完全消失。你的社交关系会被切断,你会在公共信息场域中变成一个不存在的人。你确定要这么做吗?”

“确定。”

灵犀开始执行。

在接下来的十五分钟里,姚思源的名字从数十个平台上被逐一清除。微博账号变成了“用户已注销”。知乎头像变成了默认的灰色轮廓。GitHub上的开源项目被设置为私有,访问者只能看到一个“404”页面。大学校友会网站上的联系方式被替换成了一串乱码。

他成为了一个数字幽灵。

而在这个新身份里,他只有一件事要做:和远在大马士革的那六个人一起,撑过下一个四十八小时。