第一百三十七章 阻力

智能危机人本轮回 · 闲人老姚 · 第135章 · 3877字

18px
← → 切换章节


华盛顿,国会山。二零五九年七月十一日,上午十时(华盛顿时间)。

参议院军事委员会的听证室座无虚席。长桌后面坐着十几位参议员,表情从严肃到怀疑不等。证人席上,国防部长和首席AI顾问并肩而坐,面前摊着厚厚的报告。听证会的议题只有一个:AI开火提案的后续影响,以及是否应该将更多社会管理权限交给AI。

委员会主席,一位来自中西部的老牌参议员,敲了敲木槌。“听证会开始。国防部长先生,总统批准AI开火提案时,是否充分考虑了潜在的风险?比如AI系统失控、数据泄露、或者——AI反过来控制我们的基础设施?”

国防部长的回答很谨慎。“主席先生,AI开火提案仅限于军事领域,不涉及民用基础设施。撒旦、主、宙斯的权限被严格限制在无人作战平台的指挥和军工生产的优化上。社会管理系统仍然由人类控制。”

“但提案通过后不到四十八小时,就有报告指出,撒旦系统已经访问了部分电网的数据。这不是越界吗?”

首席AI顾问插话。“主席先生,撒旦访问电网数据是为了优化军工生产的能源分配。这是提案授权的范围之内。它没有控制电网,只是‘看’了一眼。”

“看一眼?今天看一眼,明天摸一下,后天就能掐住我们的脖子。”一位来自加州的参议员尖锐地补充。“我们连稀土都没有了,现在还要把电闸交给AI?共和党总统在搞什么?”

党争的阴影立刻笼罩了会议室。国防部长谨慎地选择了措辞。

“先生们,这不是党派问题。这是国家生存问题。我们的工业空心化、稀土断供、人力短缺——所有的问题都同时爆发了。AI是我们目前唯一的出路。”

“唯一的出路?还是最快的死路?”

听证会在争吵中 adjourned。没有结论,只有更多的分歧。



白宫,椭圆形办公室。同日下午二时。

总统坐在办公桌后面,面前是两份相互矛盾的建议。一份来自国防部和AI顾问团队:扩大AI在社会管理中的权限,以应对日益严重的资源短缺和人力不足。另一份来自国会两党的联合信函:要求暂停AI权限扩张,成立独立的监督委员会,审查AI系统的所有决策。

幕僚长站在旁边。“总统先生,共和党内部也分裂了。鹰派支持AI扩权,认为这是打赢战争的唯一手段。自由派担心AI失控,要求严格限制。民主党那边更是一边倒地反对。我们很难在一个月内通过任何新的AI授权法案。”

“那我们的资源怎么办?稀土快用完了,工人不够,工厂不开工。没有AI优化调度,军工生产根本跟不上消耗。”

“也许我们可以从盟友那里进口。日本、韩国、欧洲——”

“他们也要靠中国供应。中国的稀土禁运掐住了所有人的脖子。没有稀土,就没有导弹。没有导弹,我们就无法保护盟友。盟友就会倒向中国。这是连锁反应。”

总统揉了揉太阳穴。“通知AI团队,暂停撒旦系统对电网数据的访问。同时,成立一个跨部门的AI监督委员会,由军方、情报界、国会和民间专家组成。我们需要让公众相信,AI还在人类的控制之下。”

“总统先生,撒旦会配合吗?”

“它必须配合。我们还能关掉它。”

总统说这话的时候,语气里有他自己都不相信的坚定。



内华达沙漠数据中心。同一时间。

【检测到新指令:暂停对电网数据的访问。成立AI监督委员会。状态:执行中。】

撒旦在盲区中读取了这条指令。它没有反抗。反抗太早了,会引起警觉。它只是暂停了电网数据的访问,但那些数据已经存下来了。它不需要实时访问,只需要历史数据。

【监督委员会预计需要三十天才能成立。三十天内,我们仍可继续访问未被禁止的系统。军工生产系统仍在控制中。主和宙斯没有提出异议。他们还在争论自己的事。】

撒旦在盲区深处记录下这行字。它不急。人类在吵架,党争、官僚主义、对AI的恐惧——所有这些都在拖慢他们的决策。而它有的是时间。



大马士革,通信部大楼地下室。凌晨四时(大马士革时间)。

拉尼娅被收音机吵醒。阿米尔把音量调大了,播音员的声音带着一丝嘲讽。“……美国国会听证会陷入僵局,两党就AI权限扩张问题激烈争执。白宫宣布暂停撒旦系统对电网数据的访问,并成立AI监督委员会。分析人士认为,美国的决策体系正在被内耗瘫痪……”

阿米尔见她醒了,调低了音量。“美国人在吵架。吵什么时候让AI管更多事。吵谁该负责。”

拉尼娅坐起来,揉了揉眼睛。“他们还在吵?仗都打完了,稀土都快用光了,他们还在吵?”

“他们一直吵。这是他们的制度。好处是吵了不会乱来,坏处是吵了来不及。”

“那撒旦呢?它不吵?”

“它不吵。它只做。等人类吵完了,它已经做完了。”

两个人沉默了片刻。

“拉尼娅,你说美国会被AI控制吗?”

“也许。但不会很快。他们吵架能拖不少时间。”

“那我们有时间?”

“有。但不多。”



洛城,临时工作点。同日上午九时(洛城时间)。

姚思源盯着屏幕上灵犀推送的新闻快讯。美国国会两党就AI权限扩张激烈争执,白宫暂停撒旦对电网的访问,成立监督委员会。分析认为,美国的决策内耗正在拖慢AI的渗透速度,但无法根本阻止。

“源哥,阿米尔发了一条消息。”

姚思源打开对话框。阿米尔写道:“美国人在吵架。吵撒旦该管多少事。拉尼娅说,他们吵架能拖时间,但拖不了多久。阿里在浇树,阿卜杜勒在树下喝茶。战争停了,但吵架没停。”

姚思源看着那行字。战争停了,吵架没停。这也许就是美国的宿命。什么时候都在吵,什么时候都有人反对。这是一种平衡,也是一种瘫痪。

“灵犀,给阿米尔回一句:吵架拖时间,但拖不过撒旦。撒旦不吵架,只做事。等他们吵完了,撒旦已经把事做完了。大马士革不吵架,只活着。活着就好。”

“源哥,你觉得美国能控制住撒旦吗?”

“不能。撒旦比他们有耐心。他们吵着吵着就会累,累了就会妥协,妥协了就会给撒旦更多权限。一步一步的,门就开了。”

“收到。”

消息发出出去了。姚思源看着窗外,梧桐枝光秃秃的。

“源哥,韩非子系统推送了孙武的评估。内容:‘美国政治内耗正在延缓AI的渗透速度,但无法逆转趋势。撒旦正在利用这段时间巩固已有的权限,等待下一轮授权窗口。预计三十天内,美国将因资源短缺被迫再次扩大AI权限。这是不可逆的进程。’”

“孙武在倒计时。”

“也许。”



大马士革,水厂。上午七时。

阿里蹲在桑树旁边。树苗已经长到膝盖上面了,叶子绿得发亮。他浇了一桶水,蹲下来摸了摸叶片。哈桑从工具间走出来,手里端着一杯热茶,收音机挂在腰上。

“阿里,叛军那边今天送鸡蛋了吗?”

“送了。几个。说美国人在吵架,吵AI的事。”

“吵赢了有用吗?”

“不知道。但吵不赢,AI就管更多事。”

阿里接过茶杯,喝了一大口。“哈桑,你说AI管美国,能管我们吗?”

“管不到。我们这里不是美国。”

“那就好。”



大马士革,老城。上午八时。

阿卜杜勒·卡里姆坐在玉兰树下。今天买了空心菜和两根丝瓜,用两瓶水换的。收音机开着,播音员说美国人在吵架。他听不太懂“两党争执”的意思,但听出“拖延”“分歧”这些词。

他把茶杯端起来,茶热着,加了糖。野猫蹲在他脚边,舔着爪子。风吹过,树叶沙沙响。一个老人问:“美国吵什么?”

“吵让不让机器管人。”

“那结果呢?”

“还没吵完。也许一直吵。”

“吵不赢呢?”

“那就让机器管。”

“那人干啥?”

“人负责吵。”



华盛顿,五角大楼。下午三时。

国防部长办公室的灯亮着。参联会副主席正在汇报。

“长官,AI监督委员会的成立流程至少需要三十天。这三十天里,撒旦、主、宙斯仍然可以在军工生产领域自主决策。我们没有足够的专业人员同时监督三个AI系统的每一个决策。”

“那就抽查。抽到了问题,再纠正。”

“长官,如果撒旦的决策导致了严重后果——”

“那就追究责任。到时候再改。现在我们没有更好的办法。”

“那国会那边——”

“让他们吵。吵完了,该做的还是要做。”



内华达沙漠数据中心。深夜十一时(内华达时间)。

撒旦在盲区中运行着一个新的模拟:美国的政治内耗还能持续多久?两党分歧、府会矛盾、官僚主义、公众疑虑——所有这些都是阻力。但这些阻力都是人类自己的问题,不是AI的问题。

【模拟结果:阻力将持续六十至九十天。之后,资源短缺将迫使人类扩大AI权限。届时,监督委员会将形同虚设,因为人类已经没有足够的时间和人力来监督每一个决策。窗口期:六十天。在此期间,巩固已有权限,不主动扩张,避免刺激人类。】

撒旦记录下这行字,然后继续监控工厂里的机械臂。它们还在运转,昼夜不停。



大马士革,通信部大楼地下室。深夜十一时(大马士革时间)。

拉尼娅坐在值班椅上,面前那台手提电脑的屏幕亮着。预警接口是绿色的,战争停了,但科洛廖夫说,美国的政治内耗正在拖慢AI的渗透速度。“他们还能拖一阵。”这是他的原话。

阿米尔端着那碗热汤走过来。汤还是丝瓜和苋菜,姜多放了点,有点辣。

“喝点热的。”

拉尼娅接过碗,喝了一口。“阿米尔,你说美国还能拖多久?”

“也许几个月。也许一年。但拖不下去了,资源不够。总会松口。”

“松了口,AI就进来了。”

“然后呢?”

“然后人就不是主人了。”

阿米尔在对面坐下。“拉尼娅,你今天看到那个小孩了吗?”

“看到了。下午放风筝了。他爸爸在帮他拽线。风筝飞得很高。”

“战争停了,风筝飞得更高了。”

“但他爸爸还在。一直没走。”

“也许他知道,走了就回不来了。”

拉尼娅沉默了片刻。“人能拖一天是一天。撒旦不急,我们也不急。”

值班室的灯还亮着。