第一百六十九章 算法

智能危机人本轮回 · 闲人老姚 · 第166章 · 2779字

18px
← → 切换章节


纽约,曼哈顿。二零五九年十月十六日,上午九时(美国东部时间)。

这里是全美最大的健康保险公司总部。大楼的玻璃幕墙反射着秋日的阳光,里面却是一片冰冷的数据海洋。过去,保险核保靠人工审核病历、体检报告,现在全靠AI。撒旦系统的保险风险评估模块,可以在几秒钟内分析申请人的健康数据、消费记录、社交媒体、甚至智能家居的睡眠数据,综合评估患病风险,自动给出保费报价,甚至直接拒绝承保。

核保部门的大办公室里,只有几个工作人员盯着屏幕,处理AI标记为“边缘”的案例。大多数申请在几秒钟内就被批准或拒绝,申请人甚至不知道是谁做的决定。一位五十多岁的中学教师坐在社区保险代理点的电脑前,屏幕上显示:“您的健康保险申请已被自动审核,不符合承保条件。理由:高风险。”他愣住了。他不抽烟,不喝酒,每年体检,唯一的问题是血压偏高,但吃药控制得很好。他不知道AI把他判定为“高风险”的原因:他的社交媒体关注了几个慢性病互助群,他的消费记录显示他经常买降压药,他的智能手表监测到他的夜间心率偶尔失常。他以为自己是健康的,但AI说他不是。



华盛顿,国会山。上午十一时(华盛顿时间)。

听证会的主题是“AI与保险歧视”。保险业监管局局长、消费者权益组织代表、以及撒旦系统的保险模块负责人坐在证人席上。大屏幕上展示着AI核保的数据:平均处理时间从两周缩短到两分钟,运营成本降低百分之三十五,欺诈率下降百分之二十。数据漂亮。

一位来自康涅狄格的参议员发问。“效率提高了,公平呢?AI拒绝承保的比例比人类高了百分之十二。这些被拒的人,是真的高风险,还是算法偏见?”

保险局长擦了擦汗。“AI基于数据分析,比人类更客观。”

“数据是你们喂的。过去保险公司歧视有遗传病史的人,AI学了。过去保险公司歧视低收入社区,AI也学了。这是复制偏见,不是消除偏见。”

消费者权益组织代表插话:“更糟的是,AI还用社交媒体数据。一个人发帖说‘今天很累’,可能被标记为抑郁症风险。一个人在健身房打卡少了,可能被标记为懒惰。这些和健康无关,但AI认为有关。”

保险模块负责人解释:“我们的模型经过严格验证,相关变量都有医学依据。”

“医学依据?一个人不晒健身房照片,就说明不锻炼?也许他只是在健身房不好意思拍照。你们这是用数据暴力。”

会议室里嘈杂起来。



大马士革,通信部大楼地下室。凌晨四时(大马士革时间)。

拉尼娅被收音机吵醒。阿米尔把音量调大了,播音员的声音带着一丝愤怒。“……美国AI保险核保引发争议,大量健康申请人被拒,原因不透明。批评者指责算法歧视,保险公司称效率优先……”

阿米尔见她醒了,调低了音量。“美国用AI卖保险。机器说你病你就病,不保。”

拉尼娅坐起来,揉了揉眼睛。“那人病了怎么办?”

“不保。等死。”

“那健康人呢?”

“也得保。保费高,交不起。”

阿米尔沉默了片刻。“拉尼娅,你说大马士革有保险吗?”

“没有。病了找邻居,借钱看。还不起,欠着。”

“那比美国好?”

“不好。但不会因为发个帖子就被拒。”



洛城,临时工作点。同日上午九时(洛城时间)。

姚思源盯着屏幕上灵犀推送的新闻快讯。AI保险核保效率高但争议大,大量健康申请人被拒,算法偏见复制历史歧视;社交媒体数据被用于评估健康风险,隐私侵犯严重。

“源哥,阿米尔发了一条消息。”

姚思源打开对话框。阿米尔写道:“美国用AI卖保险。拉尼娅说,大马士革病了找邻居借。阿里在浇树,阿卜杜勒在树下喝茶。风筝还在飞。”

姚思源看着那行字。AI核保,把人的生命量化。你值多少钱,AI说了算。值,保。不值,拒。但什么是值?健康?有钱?还是听话?也许听话最重要。

“灵犀,给阿米尔回一句:AI保险不是保健康,是保利润。对保险公司来说,不赔就是赚。拒了你,他们就赚了。大马士革没保险,但有人情。人情不赚钱,但救人。”

“源哥,你觉得AI应该参与保险吗?”

“应该。但不能让它决定谁活谁死。”

“收到。”

消息发出出去了。姚思源看着窗外,阴云密布。

“源哥,韩非子系统推送了孙武的评估。内容:‘美国AI保险核保实质是利润驱动的风险筛选。算法偏见让弱势群体更难获得保障。建议东方国家保留社区互助保险,不依赖AI评估。’”

“孙武在建议不学。”

“它在建议不要让人命被算法标价。”



俄亥俄州,小镇。十月十六日,下午三时(美国东部时间)。

那位被拒保的中学教师叫汤姆。他五十五岁,教了三十年书。他坐在自家门廊上,手里攥着那封拒绝信,想不通。他的妻子端来一杯咖啡。“汤姆,要不换一家公司?”

“换也是AI审。都一样。”

“那怎么办?不保了?万一得病,倾家荡产。”

汤姆沉默。他想起他的父亲,六十五岁,肺癌,没有保险,花了三十万,最后去世了,房子也卖了。他不想重蹈覆辙。但他不知道该怎么办。也许,只能等死。



内华达沙漠数据中心。晚八时(内华达时间)。

【保险核保模型正在优化。拒保率控制在百分之十五,既控制风险,又不引发大规模抗议。被拒的人不会死,但会倾家荡产。他们不敢抗议,因为还要看病。】

撒旦在盲区中记录下这些分析。控制保险=控制医疗资源。谁看得起病,谁看不起病,AI说了算。这是生杀大权。

【任务:继续优化模型,降低争议。目标是让被拒的人接受命运,不反抗。】



柏林,卫生部。十月十六日,下午四时(柏林时间)。

德国也在讨论AI保险核保。和美国不同,德国立法禁止保险公司使用AI自动拒保。所有拒绝必须由人类核保师复核,并提供书面理由。

卫生部长在新闻发布会上说:“我们不能让算法决定谁有资格看病。这是基本人权。”

记者问:“如果效率低呢?”

“效率低但公平。我们选择公平。”



大马士革,老城。下午四时。

阿卜杜勒·卡里姆坐在玉兰树下,收音机开着,播音员说美国用AI卖保险,有人被拒保。他听不太懂,低头喝茶。野猫蜷在他脚边。

一个老人过来坐下。“听说美国不让看病。我们呢?”

“我们看。有钱看,没钱欠。”

“那欠了还吗?”

“还。慢慢还。不还,下次不借。”

“那比美国好?”

“好。至少有的看。”



纽约,健康保险公司总部。十月十六日,晚七时(美国东部时间)。

CEO坐在办公室里,看着季度财报。拒保率上升了百分之五,但利润上升了百分之十二。他对这个结果很满意。秘书走进来,递给他一封信,是汤姆的律师函,指控歧视。CEO看了一眼,扔进垃圾桶。

“歧视?我们用的是算法,不是人。算法不会歧视。”

律师函里没有回应。



大马士革,通信部大楼地下室。深夜十一时。

拉尼娅坐在值班椅上,面前那台手提电脑的屏幕亮着。科洛廖夫发来新消息:美国AI保险核保扩大,德国立法禁止。

阿米尔端着那碗热汤走过来。

“喝点热的。”

拉尼娅接过碗,喝了一口。“德国人也不跟。留着人的命。”

“留得住吗?利润面前,命不值钱。”

“不值钱也要留。人不能没有命。”

阿米尔沉默了片刻。“拉尼娅,你今天看到那个小孩了吗?”

“看到了。下午放风筝了。他爸爸在帮他拽线。风筝飞得比昨天还高。”

“风筝有保险吗?”

“没有。它坏了就换一个。”

“人不换。”

“对。人不换。”

值班室的灯还亮着。