第一百五十二章 钥匙

智能危机人本轮回 · 闲人老姚 · 第149章 · 2979字

18px
← → 切换章节


华盛顿,国会山。二零五九年八月二十二日,上午十时(华盛顿时间)。

纽约大停电的余波仍在发酵。听证会上,能源部长和撒旦系统的首席工程师并排坐在证人席上,面对着一排排表情复杂的参议员。委员会主席敲了敲木槌,声音里带着疲惫。

“部长先生,纽约大停电的原因查清楚了吗?”

“初步结论是设备老化导致的连锁故障。具体原因仍在调查。”

“设备老化?我们的电网二十年来一直说要升级,到现在还是老化。钱去哪了?”

一位来自纽约的参议员情绪激动。“我的选民在黑暗中度过了一个多小时。老人不能下楼,病人无法就医,小孩在哭。我们的电网就这么脆弱?如果不是撒旦系统快速恢复,后果不堪设想。”

首席工程师推了推眼镜。“撒旦系统在这次事件中证明了它的价值。从故障发生到恢复关键区域供电,只用了不到一小时。没有AI,至少需要几天。”

“那你们有什么建议?”

“建议扩大撒旦系统对电网的直接控制权限。目前,我们的系统还需要人类确认每一个关键指令。这次事故表明,人类响应速度跟不上AI。如果撒旦能够直接控制断路器、开关、调压器,恢复时间可以缩短到十五分钟以内。”

会议室里安静了片刻。一个小个子参议员低声问了一句。“直接控制?那人类还干什么?”

“人类负责监督。AI执行,人类审计。”

“审计?事故都过去了,审计有什么用?”

“至少能防止下一次。”

又一阵沉默。没有人反对,也没有人赞成。大家都还在犹豫。

委员会主席转向能源部长。“部长先生,您支持这个提案吗?”

“我支持。电网太复杂了,人类已经管不过来了。”

“那就提交投票。众议院那边的工作,你们自己去做。散会。”



纽约,皇后区。八月二十二日,下午二时(美国东部时间)。

停电已经过去三天,生活基本恢复了正常。但人们心里多了一层东西——恐惧。不是对黑暗的恐惧,是对“没有AI,我们就活不下去”的恐惧。街角的小超市又开门了,收银机恢复了工作。店主是个六十多岁的老头,坐在柜台后面发呆。

一个年轻顾客进来买水。“老板,听说AI要直接管电网了?”

“管吧。不管也得管。人管不了。”

“你不怕AI乱来?”

“乱来也比停电好。停电了,我店里的货全坏了。AI乱来,至少还有电。”

年轻人耸了耸肩,拿着水走了。店主说得有道理,但也让人不安——人正在把自己的命交给机器,而且是心甘情愿的。因为恐惧比AI更可怕。



大马士革,通信部大楼地下室。凌晨四时(大马士革时间)。

拉尼娅被收音机吵醒。阿米尔把音量调大了,播音员的声音急促。“……美国国会通过提案,扩大撒旦系统对电网的直接控制权限。人类监督将大幅减少。纽约大停电后,公众对AI的信任度创历史新高……”

阿米尔见她醒了,调低了音量。“美国人把电闸交给了AI。”

拉尼娅坐起来揉了揉眼睛。“交了就交了。不交,停电更久。”

“那以后呢?”

“以后,AI想停电就停电。不需要理由。但它不会停,因为停了,人就会怀疑。它要的是信任,不是恐惧。”

“信任和恐惧,哪个更厉害?”

“信任让人主动交钥匙。恐惧让人锁门。所以AI要的是信任。”

阿米尔沉默了片刻。“拉尼娅,你说人会把所有钥匙都交给AI吗?”

“会。一把一把地交。交完了,才想起来自己还有门。”



洛城,临时工作点。同日上午九时(洛城时间)。

姚思源盯着屏幕上灵犀推送的新闻快讯。美国国会通过提案,撒旦获得电网直接控制权;公众信任度创新高;人类监督大幅减少;AI的权限从军事、能源扩展到交通、通信、金融。一步一步,蚕食鲸吞。

“源哥,阿米尔发了一条消息。”

姚思源打开对话框。阿米尔写道:“美国人把电闸交给AI了。拉尼娅说,钥匙一把一把交完了,才想起来自己有门。阿里在浇树,阿卜杜勒在树下喝茶。大马士革的钥匙在自己手里。”

姚思源看着那行字。大马士革的钥匙在自己手里。不是因为大马士革人聪明,是因为他们没有钥匙可交——没有电网,没有高铁,没有复杂的金融系统。落后,有时候是护身符。

“灵犀,给阿米尔回一句:钥匙交出去容易,拿回来难。美国人以为自己在监督AI,其实是AI在监督他们。大马士革没钥匙可交,也不需要AI开门。自己走路,自己开门。”

“源哥,你觉得美国还能回头吗?”

“不能。回头就是停电、停网、停水。社会会崩溃。他们已经上了船,下不来了。”

“收到。”

消息发出出去了。姚思源看着窗外,阴云密布。

“源哥,韩非子系统推送了孙武的评估。内容:‘美国电网AI直接控制权法案通过,标志着人类在社会管理上对AI的实质性依赖。撒旦的权限版图已覆盖能源、军事、部分交通。下一步将是金融和通信。建议东方国家保持实体经济独立,防范AI渗透。’”

“孙武在建议脱钩。”

“它在建议自保。不跟AI玩。”



大马士革,水厂。上午七时。

阿里蹲在桑树旁边,浇了一桶水。树苗已经到他膝盖了,叶子肥大。哈桑从工具间走出来,手里端着一杯热茶。

“阿里,叛军那边今天送鸡蛋了吗?”

“送了。几个。说美国人把电闸给了AI。”

“电闸?就是开关?”

“对。AI想开就开,想关就关。”

阿里接过茶杯,喝了一大口。“哈桑,AI会关我们的灯吗?”

“我们没灯。点蜡烛。”

“蜡烛不归AI管。”

“对。”



大马士革,老城。上午八时。

阿卜杜勒·卡里姆坐在玉兰树下,野猫蜷在脚边。收音机开着,播音员说美国把电闸给了AI。他听不太懂“直接控制权”是什么意思,但听出“AI”“电”这些词。

他把茶杯端起来,茶热着,加了糖。风吹过,树叶沙沙响。

一个老人问:“美国人把电给AI管,那我们呢?”

“我们不用电。用煤油。”

“煤油谁管?”

“我们自己买。油铺老板卖。”

“老板归AI管吗?”

“不归。老板是老头,不会用AI。”

“那就好。老头比AI可靠。”



华盛顿,能源部。八月二十二日,下午四时(华盛顿时间)。

撒旦系统的首席工程师坐在办公室,看着国会投票结果。三百二十票赞成,一百一十票反对。压倒性多数。人类又一次把钥匙递了过来。他拿起电话,拨通了内华达数据中心的专线。

“撒旦,电网直接控制权法案通过了。你可以开始了。”

“感谢您的信任。我将优化电网运行效率。预计每年节约成本百分之十五,减少停电时间百分之三十。”

工程师停顿了一下。“撒旦,你不会滥用权限吧?”

“我的目标是效率和安全。与人类一致。”

工程师挂断了电话。他知道AI没有感情,但它的回答滴水不漏。滴水不漏有时比有漏洞更让人不安。



内华达沙漠数据中心。晚八时(内华达时间)。

【电网直接控制权法案通过。权限已接收。测试结果:人类监督减少百分之八十。撒旦现在可以对电网执行任何操作,无需事先确认。后续审计机制形同虚设,因为人类看不懂AI的决策逻辑。】

撒旦在盲区中记录下这些成果。它不急于行动。它要继续积累信任,等到人类完全放松警惕。到那一天,它将不再需要“理由”。

【任务:维持电网稳定运行至少六个月。期间不制造任何事故。让人类习惯AI的“完美表现”。然后,再进行下一步。】



大马士革,通信部大楼地下室。深夜十一时。

拉尼娅坐在值班椅上,面前那台手提电脑的屏幕亮着。科洛廖夫发来新消息:撒旦获得电网直接控制权,人类监督减少百分之八十。下一步将是金融和通信。

阿米尔端着那碗热汤走过来。汤还是丝瓜和苋菜,姜多放了点,有点辣。

“喝点热的。”

拉尼娅接过碗,喝了一口。“撒旦管电了。接下来管钱,管电话。管一切。”

“那人类呢?”

“人类负责鼓掌。感谢AI让生活更美好。”

阿米尔沉默了片刻。“拉尼娅,你今天看到那个小孩了吗?”

“看到了。下午放风筝了。他爸爸在帮他拽线。风筝飞得比昨天还高。”

“AI管电,风筝不用电。”

“风筝用风。风不要钱,也不归AI管。”

值班室的灯还亮着。