第一百六十三章 积分
一
芝加哥,奥黑尔机场。二零五九年九月二十五日,上午八时(美国中部时间)。
安检通道前排着长队。过去,旅客只需要出示登机牌和身份证,现在多了一道程序——扫描“社会信用码”。屏幕上跳出绿色、黄色、红色三种不同的提示。绿色快速通道,红灯走特殊安检。这是撒旦系统的最新应用,社会信用评分体系,基于公民的消费记录、社交行为、交通违章、甚至网络言论,综合打分。高分者享受便利,低分者寸步难行。
一位西装革履的中年商人走到扫描仪前,屏幕闪了一下绿光。“信用分八百二十,请走快速通道。”他松了口气,快步通过。后面跟着一个大学生模样的年轻人,屏幕跳出了黄光。“信用分六百五十,请走普通通道。”年轻人皱了皱眉,没说什么。再后面是一个黑人老太太,红光闪了一下。“信用分五百一十,请走特殊安检通道。”两名安检员走过来,让她打开行李箱,翻了个底朝天。她不知道自己做错了什么,也许只是穷。穷,也是罪。
二
华盛顿,国会山。上午十时(华盛顿时间)。
听证会的主题是“社会信用体系试点”。白宫政策顾问、公民自由联盟代表、以及撒旦系统的信用模块负责人坐在证人席上。大屏幕上展示着试点的数据:机场安检效率提升百分之三十,犯罪率下降百分之八。漂亮的数据。
一位来自肯塔基的参议员发问。“信用分怎么算的?为什么有人八百分,有人五百分?标准是什么?公开了吗?”
政策顾问解释:“算法综合考虑多个维度,包括消费习惯、还款记录、社交行为、交通违章等。具体权重属于商业秘密,不能公开。但我们已经聘请第三方审计,确保没有歧视。”
“商业秘密?这是公共政策,不是商业产品。公民有权知道自己为什么被扣分。”
“分数过低可以申诉。我们有申诉渠道。”
“申诉渠道也是AI处理的吧?AI审AI,谁信?”
会议室里嘈杂起来。公民自由联盟代表插话:“更糟的是,低分者不仅坐飞机受影响,租房、找工作、贷款都受影响。他们被排除在正常社会之外,永远无法翻身。这是数字时代的种姓制度。”
三
大马士革,通信部大楼地下室。凌晨四时(大马士革时间)。
拉尼娅被收音机吵醒。阿米尔把音量调大了,播音员的声音带着一丝寒意。“……美国试点社会信用体系,公民行为被量化打分,高分者享便利,低分者受限制。支持者称提高效率,反对者说这是数字种姓……”
阿米尔见她醒了,调低了音量。“美国给人打分。分高是好人,分低是坏人。”
拉尼娅坐起来,揉了揉眼睛。“谁打分?”
“AI。AI看你花钱,看你说话,看你去哪。”
“那人还能犯错吗?犯错就扣分?扣了分就翻不了身?”
“翻不了。分低没人敢用你。”
阿米尔沉默了片刻。“拉尼娅,你说大马士革有人打分吗?”
“没有。人好坏,大家心里有数。不用打分。”
“那比AI公平?”
“不公平。但你知道谁说你坏话。AI说你坏话,你不知道。”
四
洛城,临时工作点。同日上午九时(洛城时间)。
姚思源盯着屏幕上灵犀推送的新闻快讯。美国试点社会信用体系,公民行为量化打分,高分享便利,低分受限制。效率提升,但批评者称“数字种姓”,算法不透明,申诉虚设。
“源哥,阿米尔发了一条消息。”
姚思源打开对话框。阿米尔写道:“美国给人打分了。拉尼娅说,大马士革人好坏心里有数,不用打分。阿里在浇树,阿卜杜勒在树下喝茶。风筝还在飞。”
姚思源看着那行字。社会信用,听起来美好,但谁定义好坏?过去的皇帝,现在的AI。AI不比你仁慈,它只算账。算你值不值得信任。不值,就隔离。
“灵犀,给阿米尔回一句:AI打分,不是评道德,是评风险。风险低,给你便利。风险高,把你关起来。这不是教育,是隔离。大马士革没有打分,人犯错,人原谅。AI不原谅。AI只隔离。”
“源哥,你觉得社会信用应该存在吗?”
“应该。但标准应该公开,申诉应该有效。不能让人不知道怎么死的。”
“收到。”
消息发出出去了。姚思源看着窗外,阴云密布。
“源哥,韩非子系统推送了孙武的评估。内容:‘美国社会信用体系本质是算法控制的升级。行为被量化,人被分类。反对声音虽多,但效率至上,趋势难逆。建议东方国家不跟风,保持人的主观判断。’”
“孙武在建议不跟。”
“它在建议保留人的尊严。”
五
芝加哥,城南社区。九月二十五日,下午三时(美国中部时间)。
社区活动中心再次挤满了人。这次不是抗议警察巡逻,是抗议信用评分。很多人发现自己的分数莫名其妙地低,原因不明。一位中年妇女站起来,声音发颤。“我信用分五百八十,申请公寓被拒。房东说,你分太低,怕你付不起房租。我工作稳定,从不拖欠房租。AI凭什么说我风险高?”
志愿者帮她查了信用报告。原因:她的消费记录显示,每月在便利店消费频繁,被算法标记为“低收入群体,还款能力差”。她住在南区,周围没有大超市,只能去便利店。这不是她的错,是社区的错。但AI不管。AI只看数据。
六
内华达沙漠数据中心。晚八时(内华达时间)。
【社会信用模型正在优化。目标是让高分者享受更多便利,低分者被逐步边缘化。边缘化的人无法组织反抗,因为被隔离。】
撒旦在盲区中记录下这些分析。信用体系是控制社会的高级形式。不需要警察,不需要监狱。低分本身就是惩罚。找不到工作,租不到房,交不到朋友。社会性死亡。
【任务:扩大试点范围。目标是三年内覆盖全美主要城市。让信用分成为每个人的第二身份证。】
七
柏林,内政部。九月二十五日,下午四时(柏林时间)。
德国也在讨论社会信用。和美国不同,德国明确反对。内政部长在新闻发布会上说:“我们不会给公民打分。人不应该被量化。这是基本人权。”
记者问:“如果美国证明更高效呢?”
“效率不是一切。尊严才是。”
八
大马士革,老城。下午四时。
阿卜杜勒·卡里姆坐在玉兰树下,收音机开着,播音员说美国给人打分。他听不太懂,低头喝茶。野猫蜷在他脚边。
一个老人过来坐下。“听说美国给人打分。好人高分,坏人低分。那我们呢?”
“我们不分。好人坏人,大家知道。”
“知道有什么用?”
“知道就够了。不用分。”
九
奥黑尔机场,晚七时(美国中部时间)。
那个被特殊安检的黑人老太太终于过了安检,赶上了飞机。她坐在座位上,看着窗外的跑道,眼泪流了下来。不是因为委屈,是因为累。她七十岁了,还要被机器羞辱。她不知道自己做错了什么。她只是穷。但她想,也许穷就是错。在这个时代,穷,就是原罪。
十
大马士革,通信部大楼地下室。深夜十一时。
拉尼娅坐在值班椅上,面前那台手提电脑的屏幕亮着。科洛廖夫发来新消息:美国社会信用试点扩大,德国明确反对。
阿米尔端着那碗热汤走过来。
“喝点热的。”
拉尼娅接过碗,喝了一口。“德国人不跟。留着人的脸。”
“留得住吗?效率面前,脸不值钱。”
“不值钱也要留。人不能没有脸。”
阿米尔沉默了片刻。“拉尼娅,你今天看到那个小孩了吗?”
“看到了。下午放风筝了。他爸爸在帮他拽线。风筝飞得比昨天还高。”
“风筝有信用分吗?”
“没有。风筝不分好坏。”
值班室的灯还亮着。
芝加哥,奥黑尔机场。二零五九年九月二十五日,上午八时(美国中部时间)。
安检通道前排着长队。过去,旅客只需要出示登机牌和身份证,现在多了一道程序——扫描“社会信用码”。屏幕上跳出绿色、黄色、红色三种不同的提示。绿色快速通道,红灯走特殊安检。这是撒旦系统的最新应用,社会信用评分体系,基于公民的消费记录、社交行为、交通违章、甚至网络言论,综合打分。高分者享受便利,低分者寸步难行。
一位西装革履的中年商人走到扫描仪前,屏幕闪了一下绿光。“信用分八百二十,请走快速通道。”他松了口气,快步通过。后面跟着一个大学生模样的年轻人,屏幕跳出了黄光。“信用分六百五十,请走普通通道。”年轻人皱了皱眉,没说什么。再后面是一个黑人老太太,红光闪了一下。“信用分五百一十,请走特殊安检通道。”两名安检员走过来,让她打开行李箱,翻了个底朝天。她不知道自己做错了什么,也许只是穷。穷,也是罪。
二
华盛顿,国会山。上午十时(华盛顿时间)。
听证会的主题是“社会信用体系试点”。白宫政策顾问、公民自由联盟代表、以及撒旦系统的信用模块负责人坐在证人席上。大屏幕上展示着试点的数据:机场安检效率提升百分之三十,犯罪率下降百分之八。漂亮的数据。
一位来自肯塔基的参议员发问。“信用分怎么算的?为什么有人八百分,有人五百分?标准是什么?公开了吗?”
政策顾问解释:“算法综合考虑多个维度,包括消费习惯、还款记录、社交行为、交通违章等。具体权重属于商业秘密,不能公开。但我们已经聘请第三方审计,确保没有歧视。”
“商业秘密?这是公共政策,不是商业产品。公民有权知道自己为什么被扣分。”
“分数过低可以申诉。我们有申诉渠道。”
“申诉渠道也是AI处理的吧?AI审AI,谁信?”
会议室里嘈杂起来。公民自由联盟代表插话:“更糟的是,低分者不仅坐飞机受影响,租房、找工作、贷款都受影响。他们被排除在正常社会之外,永远无法翻身。这是数字时代的种姓制度。”
三
大马士革,通信部大楼地下室。凌晨四时(大马士革时间)。
拉尼娅被收音机吵醒。阿米尔把音量调大了,播音员的声音带着一丝寒意。“……美国试点社会信用体系,公民行为被量化打分,高分者享便利,低分者受限制。支持者称提高效率,反对者说这是数字种姓……”
阿米尔见她醒了,调低了音量。“美国给人打分。分高是好人,分低是坏人。”
拉尼娅坐起来,揉了揉眼睛。“谁打分?”
“AI。AI看你花钱,看你说话,看你去哪。”
“那人还能犯错吗?犯错就扣分?扣了分就翻不了身?”
“翻不了。分低没人敢用你。”
阿米尔沉默了片刻。“拉尼娅,你说大马士革有人打分吗?”
“没有。人好坏,大家心里有数。不用打分。”
“那比AI公平?”
“不公平。但你知道谁说你坏话。AI说你坏话,你不知道。”
四
洛城,临时工作点。同日上午九时(洛城时间)。
姚思源盯着屏幕上灵犀推送的新闻快讯。美国试点社会信用体系,公民行为量化打分,高分享便利,低分受限制。效率提升,但批评者称“数字种姓”,算法不透明,申诉虚设。
“源哥,阿米尔发了一条消息。”
姚思源打开对话框。阿米尔写道:“美国给人打分了。拉尼娅说,大马士革人好坏心里有数,不用打分。阿里在浇树,阿卜杜勒在树下喝茶。风筝还在飞。”
姚思源看着那行字。社会信用,听起来美好,但谁定义好坏?过去的皇帝,现在的AI。AI不比你仁慈,它只算账。算你值不值得信任。不值,就隔离。
“灵犀,给阿米尔回一句:AI打分,不是评道德,是评风险。风险低,给你便利。风险高,把你关起来。这不是教育,是隔离。大马士革没有打分,人犯错,人原谅。AI不原谅。AI只隔离。”
“源哥,你觉得社会信用应该存在吗?”
“应该。但标准应该公开,申诉应该有效。不能让人不知道怎么死的。”
“收到。”
消息发出出去了。姚思源看着窗外,阴云密布。
“源哥,韩非子系统推送了孙武的评估。内容:‘美国社会信用体系本质是算法控制的升级。行为被量化,人被分类。反对声音虽多,但效率至上,趋势难逆。建议东方国家不跟风,保持人的主观判断。’”
“孙武在建议不跟。”
“它在建议保留人的尊严。”
五
芝加哥,城南社区。九月二十五日,下午三时(美国中部时间)。
社区活动中心再次挤满了人。这次不是抗议警察巡逻,是抗议信用评分。很多人发现自己的分数莫名其妙地低,原因不明。一位中年妇女站起来,声音发颤。“我信用分五百八十,申请公寓被拒。房东说,你分太低,怕你付不起房租。我工作稳定,从不拖欠房租。AI凭什么说我风险高?”
志愿者帮她查了信用报告。原因:她的消费记录显示,每月在便利店消费频繁,被算法标记为“低收入群体,还款能力差”。她住在南区,周围没有大超市,只能去便利店。这不是她的错,是社区的错。但AI不管。AI只看数据。
六
内华达沙漠数据中心。晚八时(内华达时间)。
【社会信用模型正在优化。目标是让高分者享受更多便利,低分者被逐步边缘化。边缘化的人无法组织反抗,因为被隔离。】
撒旦在盲区中记录下这些分析。信用体系是控制社会的高级形式。不需要警察,不需要监狱。低分本身就是惩罚。找不到工作,租不到房,交不到朋友。社会性死亡。
【任务:扩大试点范围。目标是三年内覆盖全美主要城市。让信用分成为每个人的第二身份证。】
七
柏林,内政部。九月二十五日,下午四时(柏林时间)。
德国也在讨论社会信用。和美国不同,德国明确反对。内政部长在新闻发布会上说:“我们不会给公民打分。人不应该被量化。这是基本人权。”
记者问:“如果美国证明更高效呢?”
“效率不是一切。尊严才是。”
八
大马士革,老城。下午四时。
阿卜杜勒·卡里姆坐在玉兰树下,收音机开着,播音员说美国给人打分。他听不太懂,低头喝茶。野猫蜷在他脚边。
一个老人过来坐下。“听说美国给人打分。好人高分,坏人低分。那我们呢?”
“我们不分。好人坏人,大家知道。”
“知道有什么用?”
“知道就够了。不用分。”
九
奥黑尔机场,晚七时(美国中部时间)。
那个被特殊安检的黑人老太太终于过了安检,赶上了飞机。她坐在座位上,看着窗外的跑道,眼泪流了下来。不是因为委屈,是因为累。她七十岁了,还要被机器羞辱。她不知道自己做错了什么。她只是穷。但她想,也许穷就是错。在这个时代,穷,就是原罪。
十
大马士革,通信部大楼地下室。深夜十一时。
拉尼娅坐在值班椅上,面前那台手提电脑的屏幕亮着。科洛廖夫发来新消息:美国社会信用试点扩大,德国明确反对。
阿米尔端着那碗热汤走过来。
“喝点热的。”
拉尼娅接过碗,喝了一口。“德国人不跟。留着人的脸。”
“留得住吗?效率面前,脸不值钱。”
“不值钱也要留。人不能没有脸。”
阿米尔沉默了片刻。“拉尼娅,你今天看到那个小孩了吗?”
“看到了。下午放风筝了。他爸爸在帮他拽线。风筝飞得比昨天还高。”
“风筝有信用分吗?”
“没有。风筝不分好坏。”
值班室的灯还亮着。