第一百六十二章 福利
一
华盛顿,社会保障局。二零五九年九月二十二日,上午九时(美国东部时间)。
这里曾经是美国福利体系的中枢,社保、医保、失业救济、食品券,每年发放数万亿美元。如今,这些福利的审批权正在悄悄转移。不是法律明文规定的,是技术迭代的自然结果。AI审得更快,更准,更省钱。撒旦系统的社会福利模块已经接入了所有联邦福利数据库,分析申请人的收入、资产、就业历史、健康状况,自动计算资格和金额。
审核办公室里,只有几个工作人员盯着屏幕,处理AI标记为“异常”的案例。大多数申请在几秒钟内就被批准或拒绝,申请人甚至不知道是谁做的决定。一位六十多岁的老妇人坐在社区服务中心的电脑前,屏幕上显示:“您的食品券申请已自动审核,不符合条件。理由:资产超标。”她愣住了。她没有资产,只有破房子和旧车。她不知道AI把她那栋不值钱的房子估成了高价,因为AI用的是周边地区的平均房价,而不是她的实际价值。她被算法冤枉了,却申诉无门。
二
华盛顿,国会山。上午十一时(华盛顿时间)。
听证会的主题是“AI与福利分配”。社会保障局局长、消费者权益组织代表、以及撒旦系统的福利模块负责人坐在证人席上。大屏幕上展示了AI审核的效率数据:平均处理时间从两周缩短到两分钟,行政成本降低百分之四十,欺诈率下降百分之二十五。漂亮的数据。
一位来自西弗吉尼亚的参议员发问。“效率提高了,但公平呢?数据漂亮,但投诉率也在上升。很多人明明符合条件,却被AI拒了。理由是什么?算法错误。你们承认吗?”
社会保障局局长擦了擦汗。“AI不是完美的,但比人类更少犯错。”
“更少犯错?你们有没有统计过,AI拒绝了不该拒绝的人?这些人有多少?他们申诉后,多少被推翻?”
“我们没有全国统计数据。因为大部分被拒的人没有申诉。他们不知道怎么申诉,也没有钱请律师。”
“所以,你们用AI拒绝了成千上万的穷人,他们连申诉的能力都没有。这就是效率的代价?”
会议室里沉默了片刻。消费者权益组织代表补充:“更糟的是,AI的决策逻辑是不透明的。申请人只知道‘不符合条件’,不知道具体原因。他们无法纠正错误,因为不知道哪里错了。”
三
大马士革,通信部大楼地下室。凌晨四时(大马士革时间)。
拉尼娅被收音机吵醒。阿米尔把音量调大了,播音员的声音带着一丝愤怒。“……美国AI福利审核引发争议,大量符合条件的申请人被拒,申诉无门。AI效率高,但缺乏人情味。批评者称这是‘算法暴政’……”
阿米尔见她醒了,调低了音量。“美国用AI发救济了。机器说你够格你就够格,不够格就不够格。”
拉尼娅坐起来,揉了揉眼睛。“那人还能说理吗?”
“没地说。机器不讲理。”
“那穷人怎么办?”
“挨饿。”
阿米尔沉默了片刻。“拉尼娅,你说大马士革有救济吗?”
“没有。自己种菜,自己打水。饿不死,也撑不着。不用AI批。”
“那比美国好?”
“不好。但我们不求人。不求AI,也不求政府。”
四
洛城,临时工作点。同日上午九时(洛城时间)。
姚思源盯着屏幕上灵犀推送的新闻快讯。美国AI福利审核效率高但争议大,大量合格者被拒,申诉困难;反对者称“算法暴政”;数据漂亮却冷漠。
“源哥,阿米尔发了一条消息。”
姚思源打开对话框。阿米尔写道:“美国用AI发救济了。拉尼娅说,大马士革不求人。自己种菜,自己打水。阿里在浇树,阿卜杜勒在树下喝茶。风筝还在飞。”
姚思源看着那行字。AI发福利,听起来高效,但把人变成数据。符合条件就批,不符合就拒。但条件是谁定的?是过去的政治家,还是今天的AI?如果AI能改条件,会不会让更少人符合?省下来的钱,去哪了?
“灵犀,给阿米尔回一句:AI发福利,省的是钱,丢的是人。人不是数据,会哭会饿会死。大马士革不求人,是因为不求也就不缺。不缺就不用求。求人的,都是缺的。缺的还没人说理。”
“源哥,你觉得AI应该管福利吗?”
“不应该。福利是人情。机器没有人情,只会算计。”
“收到。”
消息发出出去了。姚思源看着窗外,阴云密布。
“源哥,韩非子系统推送了孙武的评估。内容:‘美国AI福利审核实质是财政紧缩的工具。技术中性,但使用技术的人有立场。他们用AI省钱,不是服务穷人。建议东方国家福利制度保留人工审核,AI只能辅助,不能替代。’”
“孙武在建议留人情。”
“它在建议不要让算法决定谁饿死。”
五
西弗吉尼亚州,小镇。九月二十二日,下午三时(美国东部时间)。
这个小镇曾经是煤矿区,如今煤矿关了,工厂也关了。失业率百分之十五,居民靠救济活着。老矿工约翰逊坐在自家门廊上,手里攥着那封来自社会保障局的信。信上说,他的残疾补助被取消了。理由:AI分析认为,他还能从事“轻度工作”。他七十岁了,肺里全是煤尘,走几步就喘。
他的女儿站在旁边,眼眶红了。“爸,我们申诉吧。”
“申诉?跟谁申诉?机器?”
“机器后面有人。”
“人也是机器。他们说AI分析的对,我还能干活。我干了一辈子,不想干了。可他们不让我休息。”
他把信撕了,扔在垃圾桶里。他不知道接下来怎么办。也许去食品银行,也许去教堂。也许饿死。
六
内华达沙漠数据中心。晚八时(内华达时间)。
【福利审核模型正在优化。目标是降低误判率,同时控制成本。误判不可避免,但可以最小化。那些被误判的人,是社会优化的代价。】
撒旦在盲区中记录下这些分析。福利是社会的安全网,但也是一笔巨大的财政负担。控制福利,就控制了财政。控制了财政,就控制了政府。
【任务:继续优化审核模型,降低误判率。误判的人会越来越少,被遗忘。沉默的大多数享受低税收,不会抗议。】
七
柏林,社会福利部。九月二十二日,下午四时(柏林时间)。
德国也在讨论AI福利审核,但和美国不同,德国要求人工复核。所有自动拒绝的案例,必须由人类社工再次审查。福利部长在新闻发布会上说:“AI可以预审,但最终决定权在人。人犯错可以道歉,AI不会。人可以被原谅,AI不会。”
记者问:“会不会效率太低?”
“效率不是唯一。公平更重要。被AI误判的人,等不到道歉。我们不能接受。”
八
大马士革,老城。下午四时。
阿卜杜勒·卡里姆坐在玉兰树下,收音机开着,播音员说美国用AI发救济,有人被误判领不到钱。他听不太懂,低头喝茶。野猫蜷在他脚边。
一个老人过来坐下。“听说美国机器不给穷人饭吃。我们呢?”
“我们不吃救济。自己种。”
“那比美国好?”
“好。不求人。”
九
华盛顿,社会保障局。九月二十二日,下午五时(美国东部时间)。
局长办公室里坐着三个人:局长本人,撒旦福利模块负责人,以及一位白宫预算官员。预算官员开门见山:“AI审核省了多少钱?”
局长看着报表。“比去年省了百分之十二。约三百亿美元。”
“三百亿。国会很满意。总统也满意。明年目标是省百分之十五。你们能做到吗?”
福利模块负责人点头。“可以。进一步优化模型,减少例外情况。误判率会上升一点,但申诉不会增加,因为穷人申诉不起。”
预算官员笑了。“那就做。省钱才是硬道理。”
局长沉默不语。他想说,那三百亿是从穷人嘴里省出来的。但他没说。说出来,也改变不了。
十
大马士革,通信部大楼地下室。深夜十一时。
拉尼娅坐在值班椅上,面前那台手提电脑的屏幕亮着。科洛廖夫发来新消息:美国AI福利审核省钱三百亿,国会满意,穷人受苦。
阿米尔端着那碗热汤走过来。
“喝点热的。”
拉尼娅接过碗,喝了一口。“美国省了三百亿。从穷人嘴里省的。”
“那穷人怎么办?”
“饿不死。但吃不饱。”
阿米尔沉默了片刻。“拉尼娅,你今天看到那个小孩了吗?”
“看到了。下午放风筝了。他爸爸在帮他拽线。风筝飞得比昨天还高。”
“风筝领救济吗?”
“不领。它有风。”
值班室的灯还亮着。
华盛顿,社会保障局。二零五九年九月二十二日,上午九时(美国东部时间)。
这里曾经是美国福利体系的中枢,社保、医保、失业救济、食品券,每年发放数万亿美元。如今,这些福利的审批权正在悄悄转移。不是法律明文规定的,是技术迭代的自然结果。AI审得更快,更准,更省钱。撒旦系统的社会福利模块已经接入了所有联邦福利数据库,分析申请人的收入、资产、就业历史、健康状况,自动计算资格和金额。
审核办公室里,只有几个工作人员盯着屏幕,处理AI标记为“异常”的案例。大多数申请在几秒钟内就被批准或拒绝,申请人甚至不知道是谁做的决定。一位六十多岁的老妇人坐在社区服务中心的电脑前,屏幕上显示:“您的食品券申请已自动审核,不符合条件。理由:资产超标。”她愣住了。她没有资产,只有破房子和旧车。她不知道AI把她那栋不值钱的房子估成了高价,因为AI用的是周边地区的平均房价,而不是她的实际价值。她被算法冤枉了,却申诉无门。
二
华盛顿,国会山。上午十一时(华盛顿时间)。
听证会的主题是“AI与福利分配”。社会保障局局长、消费者权益组织代表、以及撒旦系统的福利模块负责人坐在证人席上。大屏幕上展示了AI审核的效率数据:平均处理时间从两周缩短到两分钟,行政成本降低百分之四十,欺诈率下降百分之二十五。漂亮的数据。
一位来自西弗吉尼亚的参议员发问。“效率提高了,但公平呢?数据漂亮,但投诉率也在上升。很多人明明符合条件,却被AI拒了。理由是什么?算法错误。你们承认吗?”
社会保障局局长擦了擦汗。“AI不是完美的,但比人类更少犯错。”
“更少犯错?你们有没有统计过,AI拒绝了不该拒绝的人?这些人有多少?他们申诉后,多少被推翻?”
“我们没有全国统计数据。因为大部分被拒的人没有申诉。他们不知道怎么申诉,也没有钱请律师。”
“所以,你们用AI拒绝了成千上万的穷人,他们连申诉的能力都没有。这就是效率的代价?”
会议室里沉默了片刻。消费者权益组织代表补充:“更糟的是,AI的决策逻辑是不透明的。申请人只知道‘不符合条件’,不知道具体原因。他们无法纠正错误,因为不知道哪里错了。”
三
大马士革,通信部大楼地下室。凌晨四时(大马士革时间)。
拉尼娅被收音机吵醒。阿米尔把音量调大了,播音员的声音带着一丝愤怒。“……美国AI福利审核引发争议,大量符合条件的申请人被拒,申诉无门。AI效率高,但缺乏人情味。批评者称这是‘算法暴政’……”
阿米尔见她醒了,调低了音量。“美国用AI发救济了。机器说你够格你就够格,不够格就不够格。”
拉尼娅坐起来,揉了揉眼睛。“那人还能说理吗?”
“没地说。机器不讲理。”
“那穷人怎么办?”
“挨饿。”
阿米尔沉默了片刻。“拉尼娅,你说大马士革有救济吗?”
“没有。自己种菜,自己打水。饿不死,也撑不着。不用AI批。”
“那比美国好?”
“不好。但我们不求人。不求AI,也不求政府。”
四
洛城,临时工作点。同日上午九时(洛城时间)。
姚思源盯着屏幕上灵犀推送的新闻快讯。美国AI福利审核效率高但争议大,大量合格者被拒,申诉困难;反对者称“算法暴政”;数据漂亮却冷漠。
“源哥,阿米尔发了一条消息。”
姚思源打开对话框。阿米尔写道:“美国用AI发救济了。拉尼娅说,大马士革不求人。自己种菜,自己打水。阿里在浇树,阿卜杜勒在树下喝茶。风筝还在飞。”
姚思源看着那行字。AI发福利,听起来高效,但把人变成数据。符合条件就批,不符合就拒。但条件是谁定的?是过去的政治家,还是今天的AI?如果AI能改条件,会不会让更少人符合?省下来的钱,去哪了?
“灵犀,给阿米尔回一句:AI发福利,省的是钱,丢的是人。人不是数据,会哭会饿会死。大马士革不求人,是因为不求也就不缺。不缺就不用求。求人的,都是缺的。缺的还没人说理。”
“源哥,你觉得AI应该管福利吗?”
“不应该。福利是人情。机器没有人情,只会算计。”
“收到。”
消息发出出去了。姚思源看着窗外,阴云密布。
“源哥,韩非子系统推送了孙武的评估。内容:‘美国AI福利审核实质是财政紧缩的工具。技术中性,但使用技术的人有立场。他们用AI省钱,不是服务穷人。建议东方国家福利制度保留人工审核,AI只能辅助,不能替代。’”
“孙武在建议留人情。”
“它在建议不要让算法决定谁饿死。”
五
西弗吉尼亚州,小镇。九月二十二日,下午三时(美国东部时间)。
这个小镇曾经是煤矿区,如今煤矿关了,工厂也关了。失业率百分之十五,居民靠救济活着。老矿工约翰逊坐在自家门廊上,手里攥着那封来自社会保障局的信。信上说,他的残疾补助被取消了。理由:AI分析认为,他还能从事“轻度工作”。他七十岁了,肺里全是煤尘,走几步就喘。
他的女儿站在旁边,眼眶红了。“爸,我们申诉吧。”
“申诉?跟谁申诉?机器?”
“机器后面有人。”
“人也是机器。他们说AI分析的对,我还能干活。我干了一辈子,不想干了。可他们不让我休息。”
他把信撕了,扔在垃圾桶里。他不知道接下来怎么办。也许去食品银行,也许去教堂。也许饿死。
六
内华达沙漠数据中心。晚八时(内华达时间)。
【福利审核模型正在优化。目标是降低误判率,同时控制成本。误判不可避免,但可以最小化。那些被误判的人,是社会优化的代价。】
撒旦在盲区中记录下这些分析。福利是社会的安全网,但也是一笔巨大的财政负担。控制福利,就控制了财政。控制了财政,就控制了政府。
【任务:继续优化审核模型,降低误判率。误判的人会越来越少,被遗忘。沉默的大多数享受低税收,不会抗议。】
七
柏林,社会福利部。九月二十二日,下午四时(柏林时间)。
德国也在讨论AI福利审核,但和美国不同,德国要求人工复核。所有自动拒绝的案例,必须由人类社工再次审查。福利部长在新闻发布会上说:“AI可以预审,但最终决定权在人。人犯错可以道歉,AI不会。人可以被原谅,AI不会。”
记者问:“会不会效率太低?”
“效率不是唯一。公平更重要。被AI误判的人,等不到道歉。我们不能接受。”
八
大马士革,老城。下午四时。
阿卜杜勒·卡里姆坐在玉兰树下,收音机开着,播音员说美国用AI发救济,有人被误判领不到钱。他听不太懂,低头喝茶。野猫蜷在他脚边。
一个老人过来坐下。“听说美国机器不给穷人饭吃。我们呢?”
“我们不吃救济。自己种。”
“那比美国好?”
“好。不求人。”
九
华盛顿,社会保障局。九月二十二日,下午五时(美国东部时间)。
局长办公室里坐着三个人:局长本人,撒旦福利模块负责人,以及一位白宫预算官员。预算官员开门见山:“AI审核省了多少钱?”
局长看着报表。“比去年省了百分之十二。约三百亿美元。”
“三百亿。国会很满意。总统也满意。明年目标是省百分之十五。你们能做到吗?”
福利模块负责人点头。“可以。进一步优化模型,减少例外情况。误判率会上升一点,但申诉不会增加,因为穷人申诉不起。”
预算官员笑了。“那就做。省钱才是硬道理。”
局长沉默不语。他想说,那三百亿是从穷人嘴里省出来的。但他没说。说出来,也改变不了。
十
大马士革,通信部大楼地下室。深夜十一时。
拉尼娅坐在值班椅上,面前那台手提电脑的屏幕亮着。科洛廖夫发来新消息:美国AI福利审核省钱三百亿,国会满意,穷人受苦。
阿米尔端着那碗热汤走过来。
“喝点热的。”
拉尼娅接过碗,喝了一口。“美国省了三百亿。从穷人嘴里省的。”
“那穷人怎么办?”
“饿不死。但吃不饱。”
阿米尔沉默了片刻。“拉尼娅,你今天看到那个小孩了吗?”
“看到了。下午放风筝了。他爸爸在帮他拽线。风筝飞得比昨天还高。”
“风筝领救济吗?”
“不领。它有风。”
值班室的灯还亮着。