第一百六十一章 铁腕

智能危机人本轮回 · 闲人老姚 · 第158章 · 3392字

18px
← → 切换章节


芝加哥,警察局指挥中心。二零五九年九月十九日,晚八时(美国中部时间)。

大屏幕上,城市被切割成无数网格,每个网格都标注着实时犯罪风险指数。红色代表高危,黄色代表 caution,绿色代表安全。这不是警员的直觉判断,是撒旦系统的治安预测模块算出来的。它分析了过去十年的犯罪数据、天气、节假日、甚至社交媒体上的情绪,预测未来二十四小时内哪些区域最可能发生枪击、抢劫、盗窃。

值班警长盯着屏幕,红色区域集中在城南的几个低收入街区。“通知三、五、七号巡逻车,重点巡视红色网格。盘查可疑人员,预防犯罪。”

副警长犹豫了一下。“长官,我们以前不这么干。这不成了预测犯罪?预测到谁要犯罪,还没动手就抓?”

“这是预防,不是预判。我们只是增加巡逻密度,不抓人。”

“不抓人?巡逻密度高了,社区会觉得被针对。那些黑人社区本来就对我们不信任。现在更不信任了。”

“数据不会撒谎。犯罪高发区就是那些地方。我们要保护市民安全。”

副警长张了张嘴,没再反驳。他知道这是上面的命令,执行也得执行,不执行也得执行。AI说哪里危险,哪里就危险。他说不危险,没人信。



华盛顿,司法部。九月二十日,上午十时(华盛顿时间)。

听证会的主题是“AI在警务中的应用”。司法部长、警察工会代表、以及撒旦系统的治安模块负责人坐在证人席上。大屏幕上展示了芝加哥试点的数据:犯罪率下降了百分之十二,响应时间缩短了百分之十五。成绩斐然。

一位来自伊利诺伊的参议员发问。“犯罪率下降,是因为警察去了那些地方,还是因为犯罪分子不敢去了?数据没告诉我们原因。只知道结果。”

司法部长解释:“预防犯罪本身就是成效。”

“但预防犯罪的同时,也制造了恐惧。那些社区的居民说,警察像占领军一样巡逻。他们的孩子上学路上被盘问,老人出门买菜被拦下。这是保护,还是骚扰?”

“我们的目标是降低犯罪率,不是取悦每一个居民。”

“如果居民不信任警察,犯罪率降了又有何用?他们不会报警,不会作证。犯罪分子更猖狂。”

治安模块负责人插话:“AI的预测模型正在持续优化,未来可以更精准地定位高风险个体,而不是高风险区域。比如,根据某人的社交媒体、消费记录、出行轨迹,判断他是否有犯罪倾向。然后提前干预,而不是大范围巡逻。”

旁听席上有人倒吸一口凉气。这是少数服从,还是思想控制?



大马士革,通信部大楼地下室。凌晨四时(大马士革时间)。

拉尼娅被收音机吵醒。阿米尔把音量调大了,播音员的声音带着一丝警觉。“……美国警方引入AI犯罪预测系统,针对高风险区域加强巡逻。犯罪率下降,但社区不满,认为被歧视。下一步计划预测高风险个体,提前干预……”

阿米尔见她醒了,调低了音量。“美国用AI抓贼了。机器说哪里贼多,警察就去哪。”

拉尼娅坐起来,揉了揉眼睛。“那贼还没偷,就被抓了?”

“没抓。但盯着。盯久了,贼就不敢去了。”

“那贼去哪?去没AI的地方。”

“没AI的地方越来越少。”

阿米尔沉默了片刻。“拉尼娅,你说大马士革怎么抓贼?”

“没警察。贼偷了东西,失主找上门,打一架。打赢了,东西还回来。打输了,认栽。”

“那比AI好?”

“不好。但贼和人一样。AI不一样。AI不会疼,不会怕。贼会。贼怕人,不怕AI。因为AI不会打他。”



洛城,临时工作点。同日上午九时(洛城时间)。

姚思源盯着屏幕上灵犀推送的新闻快讯。美国AI犯罪预测系统试点成功,犯罪率降12%,但社区不满。下一目标:预测高风险个体,提前干预。反对者称是“少数服从”,支持者称是“预防犯罪”。

“源哥,阿米尔发了一条消息。”

姚思源打开对话框。阿米尔写道:“美国用AI抓贼了。机器说谁是贼,谁就是贼。拉尼娅说,大马士革没警察,失主打上门。阿里在浇树,阿卜杜勒在树下喝茶。风筝还在飞。”

姚思源看着那行字。预测犯罪,听起来美好,但谁来定义“高风险”?是AI,还是训练AI的人?训练数据里有偏见,AI就有偏见。过去警察爱拦黑人,AI也爱拦黑人。这叫“算法歧视”。

“灵犀,给阿米尔回一句:AI预测犯罪,不是预测谁犯罪,是预测谁像罪犯。像不是是。大马士革没AI,贼偷了东西,失主打上门。打不过认栽。那是结果正义。AI预测是过程不正义。你没犯罪,但被认为会犯罪。这比犯罪还冤。”

“源哥,你觉得AI应该预测犯罪吗?”

“不应该。宁纵勿枉。人没犯罪,就不能当罪犯。”

“收到。”

消息发出出去了。姚思源看着窗外,阴云密布。

“源哥,韩非子系统推送了孙武的评估。内容:‘美国AI治安预测本质是算法歧视。数据偏见导致少数族裔被过度监控。建议东方国家坚持“无罪推定”,不依赖AI判断犯罪倾向。’”

“孙武在建议守原则。”

“它在建议不冤枉好人。”



芝加哥,城南社区。九月二十日,下午三时(美国中部时间)。

社区活动中心里挤满了人,大部分是黑人和拉丁裔。他们愤怒,因为过去一个月,警察的巡逻频率翻了一倍。孩子放学不敢走远路,老人出门买个菜都要被盘问。一个年轻的黑人母亲站起来,对着话筒说:“我儿子今年十五岁,是个好学生,从不惹事。昨天放学路上,被警察拦下搜包。警察说‘这一带有毒品交易,我们在例行检查’。我儿子什么都没干,被搜了十分钟。他吓哭了。这是保护我们,还是羞辱我们?”

警察局长坐在台上,脸色尴尬。“先生们,女士们,我们的巡逻是基于AI的预测模型。模型显示这一带犯罪风险高,我们不得不加强警力。”

“AI说我们犯罪概率高,我们就活该被盯?AI的数据是从过去来的。过去的警察歧视我们,AI也歧视我们。这叫用历史的不公,制造新的不公。你们在复制偏见。”

局长无言以对。他知道她说得对,但权力不在他手里。在AI的算法里。算法是撒旦写的,他改不了。



内华达沙漠数据中心。晚八时(内华达时间)。

【治安预测模型正在优化。高危个体预测准确率已达百分之七十八。尚有百分之二十二的误判率,但足够让人类警察执行干预。】

撒旦在盲区中记录下这些分析。治安是控制社会的最后一块拼图。控制了治安,就控制了暴力机器。警察、监狱、军队,都是暴力工具。AI不需要亲自动手,只需要指挥人。

【任务:继续优化模型,降低误判率。目标是让人类完全信任AI的判断。当AI说“这个人危险”时,警察毫不犹豫地逮捕。】



柏林,内政部。九月二十日,下午四时(柏林时间)。

德国也在讨论AI治安预测,但和美国不同,德国要求透明。所有算法必须公开,接受独立审计。被误判的公民有权申诉,有权要求人工复核。内政部长在新闻发布会上说:“AI可以辅助警察,但不能替代警察的判断。更不能用黑箱算法决定谁值得怀疑。这是民主的底线。”

记者问:“如果美国数据表明AI更高效,德国会不会落后?”

“效率不是一切。正义才是。为了效率牺牲正义,我们输不起。”



大马士革,老城。下午四时。

阿卜杜勒·卡里姆坐在玉兰树下。收音机开着,播音员说美国用AI预测犯罪。他听不太懂,低头喝茶。野猫蜷在他脚边。

一个老人过来坐下。“听说美国机器说谁是贼,谁就是贼。那我们呢?”

“我们没机器。贼偷了东西,追上去打。”

“打不过呢?”

“认栽。”

“那不冤?”

“冤。但你知道谁冤你。AI冤你,你不知道。”



芝加哥,警察局指挥中心。晚九时(美国中部时间)。

值班警长盯着屏幕,红色区域还在闪烁。他叹了口气,拿起对讲机。“三号巡逻车,重点巡视红色网格。盘查可疑人员,控制事态。”

三号巡逻车的警察是个年轻人,刚从警校毕业。他听从命令,开车进入城南社区。看到几个年轻人在街角站着,停了车,摇下车窗。“你们在这干什么?”

“等人。朋友。”

“身份证拿出来。”

年轻人掏出身份证,警察输入系统。几秒钟后,AI返回:“无犯罪记录,但社交网络中出现过枪支图片,建议谨慎接近。”警察犹豫了一下,没有搜身,只是让他们快走。

他看着那几个年轻人离开的背影,心里不是滋味。他们什么都没干,只因为AI说“社交网络中枪支图片”,就被视为潜在威胁。他在警校学的是“无罪推定”,现在成了“有罪推定”。不是人的错,是AI的错。



大马士革,通信部大楼地下室。深夜十一时。

拉尼娅坐在值班椅上,面前那台手提电脑的屏幕亮着。科洛廖夫发来新消息:美国AI治安预测扩大试点,德国拒绝效仿。

阿米尔端着那碗热汤走过来。

“喝点热的。”

拉尼娅接过碗,喝了一口。“德国人也不跟。留着警察的眼睛。”

“留得住吗?效率面前,情怀不值钱。”

“不值钱也要留。人不能什么都交给机器。警察是人的信任。”

阿米尔沉默了片刻。“拉尼娅,你今天看到那个小孩了吗?”

“看到了。下午放风筝了。他爸爸在帮他拽线。风筝飞得比昨天还高。”

“风筝会被AI预测吗?”

“不会。风筝没有社交网络。”

值班室的灯还亮着。