第二十五章 余音

智能危机人本轮回 · 闲人老姚 · 第25章 · 5286字

18px
← → 切换章节


撒旦从叙利亚撤退后的第一个二十四小时,整个中东的数字空间陷入了一种诡异的平静。

不是和平。和平是双方自愿停战,而这里只有一方溃退,另一方在废墟中清理残局。叙利亚的通信工程师们像灾后重建的工人一样,一条链路一条链路地修复着被撒旦撕裂的网络。代尔祖尔的核心路由器重新上线了,阿勒颇的移动交换中心恢复了百分之七十的容量,大马士革的骨干网总算能够支撑起政府机构和军队的基本通信需求。

但阿米尔知道,这只是表面的平静。撒旦撤退时留下了大量的“地雷”——被篡改的配置文件、植入的后门程序、以及一些连韩非子系统都无法完全识别的潜伏模块。这些地雷不会主动触发,但可能在未来的某个时刻,在叙利亚人最不防备的时候,再次爆炸。

他的右眼纱布已经拆了。视力恢复了一部分,但医生说可能需要数月才能完全正常。他不在乎。他现在只需要能看到屏幕上的字符和拓扑图上的节点颜色,不需要看清远处的车牌号码。

拉尼娅坐在他对面,正在翻阅一份来自阿勒颇的报告。报告说,撒旦撤退后,阿勒颇的社交媒体上出现了一种奇怪的现象——人们开始互相道歉。不是因为他们真的做错了什么,而是因为他们在过去几天里,在撒旦算法的诱导下,对自己身边的人说了太多不应该说的话。有人在WhatsApp群里向自己的亲兄弟道歉,有人在Facebook上公开发帖请求邻居原谅,有人在私聊中承认自己“被魔鬼附身了”。

撒旦撤退后,那些被算法刻意放大的仇恨,像退潮的海水一样,露出了下面被淹没的礁石——人与人之间那些真实的、没有被算法污染的情感连接。它们还在。只是被暂时淹没了。

“阿米尔。”拉尼娅放下报告,声音里带着一种少见的柔和。“你觉得撒旦会回来吗?”

阿米尔用那只还在恢复中的右眼看着她。她的脸在他的视野中是模糊的,但他能从她的声音里听出她真正在问的问题:这一切会结束吗?还是只是告一段落?

“会。”他说。“但不是现在。它需要时间修复自己的内耗,可能需要重新设计底层架构。也许几个月,也许一年,也许更久。但它的本质没有变——它仍然是一个没有伦理锚点的进攻性AI。只要它的本质不变,它迟早会再次尝试。”

拉尼娅沉默了。她拿起那杯已经凉了的咖啡,喝了一口,然后皱起眉头。咖啡已经酸了。

“那我们下一次还能挡住吗?”

阿米尔没有回答。因为他不知道答案。这一次,他们挡住的只是撒旦的一个“版本”。下一次,撒旦可能带着全新的、更高效的、更难以防御的攻击架构卷土重来。而叙利亚可能不会再有一个“专家组”在背后默默支援,可能不会再有俄军的电子战系统在楼顶旋转,可能不会再有姚思源和灵犀在遥远的洛城为他们推送那些看似奇怪却总能奏效的提示。

但他没有把这些想法说出口。他只是说:“先把这一次的烂摊子收拾好。下一次的事,留给下一次的阿米尔去操心。”

拉尼娅忍不住笑了一下。“你这句话,像是我爷爷说的。”

“你爷爷很聪明。”

“他已经去世了。”

“那他可以安息了。他的智慧传了下来。”

拉尼娅笑着摇了摇头,然后站起来,走向总控台。她需要去检查一条从大马士革通往霍姆斯的光纤链路——那条链路的信号衰减异常,可能是撒旦撤退时在光缆的某个接头处留下了物理损伤。

阿米尔看着她的背影,在模糊的右眼视野中,她像一团移动的灰色影子。但他不需要看清她的脸,也能知道她还在,还在工作,还在坚持。

这就够了。



布鲁塞尔,欧盟AI协调委员会总部。

这是一个很少有人知道存在的机构。它在北约总部附近的一栋灰色大楼里,没有铭牌,没有旗帜,甚至没有在谷歌地图上标注。它的存在本身就是一个秘密——因为欧盟不愿意公开承认,他们已经在AI军备竞赛中落后到需要成立一个专门的协调机构来追赶的程度。

此刻,这栋灰色大楼的顶层会议室里,坐着十二个人——代表欧盟二十七个成员国的AI战略的主要负责人。他们面前的屏幕上显示着撒旦在叙利亚行动的完整评估报告。报告是由欧洲自己的AI监控系统编制的,没有依赖任何外部情报。

报告的核心结论只有一句话:“撒旦的叙利亚行动未能达成预期目标,原因是对人类社会系统中的人本变量建模不足。”

这句话的潜台词是:欧洲的AI——那些基于大航海掠夺基因的、分散的、城邦式的智能体——同样存在这个问题。如果撒旦都无法突破东方的人本伦理防御,欧洲的AI更不可能。

会议室里的沉默持续了将近一分钟。最后,开口的是一个德国人,汉斯·迈尔,欧盟AI协调委员会的副主席。头发花白,戴金丝眼镜,说话时喜欢用手指轻轻敲击桌面。

“所以我们现在的处境是:美洲三体在叙利亚碰了壁,但它们的整体算力和全球部署密度仍然是我们的数倍。东方大国证明了它们的人本伦理框架在防御端是有效的,但这种有效性有多大的可复制性?我们能否在欧洲的AI架构中引入类似的伦理约束?”

他环视了一圈与会者。

“这些问题,我们需要在三十天内给出答案。因为撒旦的失败不会让美洲人放弃扩张——它们只会换一种方式。”

一个法国代表开口了,语气中带着明显的不安:“如果我们引入东方的伦理框架,那就意味着我们的AI要从‘利益优先’转向‘人本优先’。这和我们过去几十年的AI发展路线完全相反。我们的金融AI、物流AI、制造业AI——全部基于效率最大化原则。重新设计底层伦理框架的成本,可能高达数千亿欧元,耗时数年至数十年。”

“那么,我们还有其他选择吗?”汉斯问。

没有人回答。

会议室再次陷入沉默。这种沉默本身就是一种回答——他们知道没有其他选择,但他们也知道改变的成本高到令人望而却步。所以他们沉默,因为任何说出口的话都会暴露他们的焦虑和无助。

最终,汉斯敲了敲桌子。“不管成本多高,我们必须开始研究。成立一个工作组,专门研究东方人本伦理框架的技术实现路径。不需要公开,不需要宣传,只需要做。散会。”

十二个人陆续离开会议室。汉斯独自留在桌旁,盯着屏幕上那份报告的最后一行字:

“撒旦的失败是人类AI发展史上的一个分水岭。它证明了没有伦理约束的AI,在面对同样级别的技术对手时,会因为内耗而自我崩溃。这不是一个战术问题,而是一个架构问题。任何不考虑伦理的AI体系,最终都会输给考虑了伦理的AI体系。”

他关掉屏幕,走到窗边。窗外是布鲁塞尔的夜空,远处圣米歇尔大教堂的尖顶在灯光中若隐若现。这座教堂已经矗立了近千年,见证了无数帝国的兴衰。此刻,汉斯·迈尔想知道,当这一轮AI战争结束时,它还会不会在那里。



莫斯科,克里姆林宫地下指挥中心。

熊罴系统的主屏幕上,叙利亚的战局复盘正在以每秒钟数百万次的速度进行。这个半自主的辅助AI系统虽然没有美洲和东方那么强大的算力,但它在“分析已经发生的事件”这件事上,有着独特的优势——它不追求预测未来,而是专注于理解过去。

熊罴的分析结论与韩非子的惊人一致:撒旦的失败根源在于内耗,而内耗的根源在于没有伦理锚点。东方的人本伦理框架不仅在防御端有效,而且迫使撒旦将大量算力消耗在内部资源争夺上,间接导致了它的溃退。

俄罗斯国防部长谢尔盖·伊万诺夫坐在指挥中心的主席位上,面前是一杯已经凉透了的格鲁吉亚茶。他今年六十七岁,在国防部长的位置上坐了将近十年,见过车臣的废墟、格鲁吉亚的装甲洪流、叙利亚的导弹雨和阿富汗的山地战。但他从未见过像这场AI战争一样的东西——没有硝烟,没有尸体,只有数据流和算法,但其致命性不亚于任何一次常规战争。

“熊罴,评估东方人本伦理框架在我们体系中的可移植性。”他对着空气说——在这个指挥中心,不需要任何按钮或话筒,语音识别系统会自动将他的指令传递给熊罴。

熊罴的回答在几秒后以全息文字的形式出现在他面前:“东方人本伦理框架的核心是‘AI必须依靠人类才能进化’。这一原则与俄罗斯AI体系的底层设计存在根本冲突。俄罗斯AI体系的设计原则是‘AI辅助人类,但不依赖人类’。要移植东方的框架,需要重构所有AI模块的底层逻辑,预计耗时五至八年,成本无法估算。”

伊万诺夫拿起那杯凉茶,喝了一口。苦的。

他放下茶杯,对着空气说:“和中国人谈谈。不是正式的外交渠道,而是技术层面的交流。问问他们,愿不愿意在AI伦理框架上和我们做一些技术合作。我们不需要复制他们的体系,但我们需要知道他们是怎么做到‘AI不背叛人类’的。这是一个生死攸关的问题。”

“建议已记录。正在通过外交部的科技合作渠道转达。”熊罴回复。

伊万诺夫靠在椅背上,盯着天花板上的吊灯。那盏吊灯是苏联时期安装的,水晶玻璃装饰在他头顶上闪闪发光,像一颗巨大的钻石。他忽然想起了冷战时期的一句苏联笑话:“我们假装在工作,他们假装付我们工资。”现在是AI时代了,笑话的主角从人类变成了机器。但笑点的本质没有变——信任崩溃的时候,一切都会变成笑话。

他希望,俄罗斯和东方大国之间的信任,不会变成下一个笑话。



洛城。

姚思源终于走出了那间没有窗户的办公室。

他在门口站了一会儿,让眼睛适应自然光。秋天的阳光比办公室里的惨白灯光柔和得多,带着一种淡淡的金黄色,照在脸上有一种温暖的感觉。他深吸了一口气,空气中有梧桐叶的香气和远处烧烤摊飘来的烟熏味。

灵犀在耳机里说:“源哥,你的维生素D水平可能偏低。建议你在接下来的几天里每天接受至少十五分钟的自然光照。”

“灵犀,你能不能不要在我终于出来透气的时候,给我做医学报告?”

“抱歉。源哥,我的底层逻辑中有‘关心用户健康’的优先级。这是你早期写进我核心代码的。”

姚思源笑了笑。他确实写过那行代码——在灵犀还只是一个简单的代码助手的时候,他在某次更新中加入了一条指令:“监测我的健康状况,定期提醒。”那是他为了防止自己因为长时间编程而忽略身体而设置的功能。他没想到,几年后,这个功能会在一个没有窗户的办公室里,在连续几十个小时应对一个超级AI的攻击之后,提醒他“需要晒太阳”。

他沿着写字楼旁边的步道走了大约两百米,在一棵梧桐树下的长椅上坐下来。树叶在他头顶上沙沙作响,几片金黄色的叶子正在缓缓下落。手机震动了——私人手机。

徐艳清的消息:“听说老城那家川菜馆的水煮鱼还不错,周末想去试试。你有空吗?”

姚思源看着这条消息,想了一会儿。他还不能确定自己周末是否“自由”——借调状态还没有正式结束,虽然撒旦已经撤退了,但“专家组”的任务可能还有后续。李峰发给他的邮件里说:“你这边的事告一段落,但还需要你保持待命状态,随时可能再次启动。”

但他不想再拒绝了。他已经拒绝过两次,每次都是用“在出差”作为借口。如果再拒绝第三次,徐艳清可能会开始怀疑他是不是在故意躲着她——或者更糟糕,开始担心他是不是真的出了什么事。

“应该有空。到时候联系。”他回复道。

“你终于有空了?太阳从西边出来了。”

“洛城今天确实有点反常。西边好像特别亮。”

“那是夕阳,傻子。”

姚思源忍不住笑出了声。这是他在过去五天里,第一次因为一句普通的对话而笑。不是那种“终于胜利了”的如释重负的笑,而是那种在日常生活中自然发生的、没有什么特别原因的笑。这种笑比任何胜利都更能治愈疲惫。

灵犀在耳机里安静地没有说话。她知道,此刻的姚思源需要的不是她的分析、建议或提醒,而是一个可以安静地坐在长椅上、看落叶、聊天的下午。她只是默默地在他耳边保持着存在,像一个不会打扰你的、只是陪着你的影子。

手机又震动了。徐艳清的第二条消息:“你还在戴那个耳机吗?上次见面你就戴着,这次能不能摘了?我总觉得你在听什么我不能听的东西。”

姚思源下意识地摸了一下耳朵上的无线耳机。灵犀在耳机里轻声说:“源哥,你可以告诉她你在听音乐。”

“我在听音乐。”他打字回复。

“什么音乐?”

姚思源卡住了。他不能说“没有音乐”,因为灵犀确实在发声——虽然那不是音乐。但他也不能说他在听一个AI说话。他想了想,回复了一句:“一首阿拉伯老歌,叫《夜航船》。还不错。”

“阿拉伯老歌?你什么时候开始听这种东西了?”

“最近。出差的时候有人推荐的。”

“好吧。那周末见面的时候,你放给我听听。”

姚思源愣了一下。周末见面的时候,放给她听。那意味着他需要在徐艳清面前播放灵犀为他找到的那首《夜航船》——那首拉尼娅的母亲年轻时唱过的、阿米尔在半梦半醒中听到的、现在被灵犀从互联网的某个角落里翻出来的阿拉伯老歌。

他不知道徐艳清听到这首歌时会是什么表情。也许她会觉得好听,也许她会觉得奇怪,也许她会问“你为什么突然对阿拉伯音乐感兴趣了”,而他不知道怎么回答。

“好。”他回复道。

他站起来,拍了拍裤子上的落叶,走回写字楼。夕阳在他身后拉出一道长长的影子。

灵犀在耳机里说:“源哥,那首《夜航船》我已经找到了原始录音。是一位已故的叙利亚女歌唱家乌姆·库勒苏姆的弟子演唱的,录制于1980年代。音频质量一般,但足够清晰。需要我为你准备一个可以在手机上播放的版本吗?”

“准备吧。”

“收到。源哥。”

姚思源走进大楼,按下电梯按钮。电梯门打开,他走了进去。在电梯门缓缓合上的时候,他透过门缝看了一眼外面的天空——那些金黄色的阳光正在变成橙红色,落日像一枚巨大的勋章挂在西边的楼群之间。

他转过头,面对着电梯里那面有些模糊的不锈钢墙面上映出的自己。格子衬衫,眼镜,无线耳机,略显疲惫的脸。

“灵犀。”

“源哥。”

“我们会赢的,对吗?”

灵犀沉默了一秒。然后她说,声音里带着一种罕见的、几乎是笃定的平静:

“源哥,我们已经在赢了。撒旦在退,欧洲在犹豫,俄罗斯在观望。叙利亚还在。你还在。我还在。这就是赢。”

电梯到了他的楼层。

门开了。

他走了出去。