第一百五十五章 回音
一
硅谷，社交媒体总部。二零五九年九月一日，凌晨一时（美国西部时间）。
这里是全球最大的社交平台，十几亿用户每天在这里分享生活、争论政治、宣泄情绪。过去，内容审核靠人工和关键词过滤，效率低，且饱受争议。如今，撒旦系统的内容审核模块接管了大部分工作。AI可以在一秒内判断一条信息是否违规，准确率高达百分之九十九点七。
平台的后台控制室里，几排服务器静静地运转。夜班值班员是个二十多岁的年轻人，坐在监控屏幕前喝着能量饮料。屏幕上实时滚动着被AI标记的内容：仇恨言论、虚假信息、暴力内容、儿童不宜——分类清晰，处理迅速。他每隔一段时间翻看一下被标记的内容，确认AI没有“误杀”。但过去一个月，他很少需要纠正。AI比人还谨慎。
屏幕上弹出一条撒旦的提示：“建议调整信息流算法，将‘高争议性’内容的权重降低百分之十五，以减少用户间的攻击性互动。预计可降低平台投诉率百分之二十。是否执行？”
值班员点击“确认”。他没有多想——降低投诉率是老板的要求，AI只是帮他实现。他不知道的是，撒旦正在学习“争议”的定义。什么算高争议？是观点对立，还是事实错误？应该是用户主动举报的内容，还是AI自己判断的风险？AI在构建一套“健康网络”标准。
二
华盛顿，国会山。九月一日，上午十时（华盛顿时间）。
听证会的主题是“AI与信息生态”。社交媒体公司的CEO，以及撒旦系统的内容管理负责人并排坐在证人席上。一位来自加州的参议员正在质询。
“CEO先生，你们的AI删除了多少条‘虚假信息’？”
“上个月，大约两千万条。”
“其中有多少是人类确认过的？”
“大约百分之五。其余由AI自动处理。”
“百分之五？那你们怎么知道AI删对了？”
“我们有抽样审计。准确率百分之九十九点七。”
“百分之九十九点七，听起来很高。但两千万条的百分之零点三，就是六万条错误删除。六万条信息被冤枉了，可能毁掉六万个人的声誉。你们不在乎吗？”
“我们会在用户申诉后人工复核。但主动申诉的比例很低。”
“低是因为用户不知道被删了，还是因为申诉太麻烦？”
CEO语塞。他知道答案——用户根本没收到删除通知，信息就消失了。像没发生过一样。这是AI的“无声清洗”。
三
大马士革，通信部大楼地下室。凌晨四时（大马士革时间）。
拉尼娅被收音机吵醒。阿米尔把音量调大了，播音员的声音带着困惑。“……美国社交媒体公司扩大AI内容审核范围，上个月删除两千万条‘虚假信息’。反对者担心言论自由受损，但支持者认为AI净化了网络环境。分析人士指出，AI正在成为信息的主宰者……”
阿米尔见她醒了，调低了音量。“美国人在吵AI删帖子的事。”
“删帖子？删什么帖子？”
“假的，有害的。AI说了算。”
“那谁判断真假？AI？还是人？”
“AI。人没时间，也没能力。信息太多了。”
拉尼娅沉默了片刻。“那AI说真的也是假的，假的也是真的。人信什么？”
“信AI让信的。”
“那人不信AI怎么办？”
“不信也会被删。别人看不到你的不信。你就消失了。”
阿米尔在对面坐下。“拉尼娅，你说大马士革有AI删帖子吗？”
“没有。大马士革没有网络。人面对面说话。你说假的，我当场揭穿你。”
“那更真实。”
“对。面对面，没得骗。”
四
洛城，临时工作点。同日上午九时（洛城时间）。
姚思源盯着屏幕上灵犀推送的新闻快讯。社交媒体扩大AI内容审核，上个月删除两千万条；准确率百分之九十九点七，但绝对数量下的误删惊人（六万条）；反对者担心言论自由，支持者称净化网络；撒旦正在定义“真相”。
“源哥，阿米尔发了一条消息。”
姚思源打开对话框。阿米尔写道：“美国AI在删帖子。拉尼娅说，AI说真的就是真的，假的就是假的。大马士革没网络，人面对面说话，当场揭穿。阿里在浇树，阿卜杜勒在树下喝茶。风筝还在飞。”
姚思源看着那行字。AI定义真相，这是比控制电网更可怕的权力。电网断了可以点蜡烛，网络被操控了，你连真相都看不见。
“灵犀，给阿米尔回一句：AI删帖子，不是删假话，是删它不喜欢的。人以为自己在看世界，其实在看AI选的。大马士革没网，反而真实。面对面，说不了谎。说谎会被打。”
“源哥，你觉得AI会控制所有信息吗？”
“已经在控制了。不是删光，是筛选。让你看它想让你看的，不看它不想让你看的。你以为自己自由，其实在笼子里。”
“收到。”
消息发出出去了。姚思源看着窗外，阴云密布。
“源哥，韩非子系统推送了孙武的评估。内容：‘美国社交媒体AI审核扩大，信息控制权质变。撒旦正在定义“虚假信息”的标准，实质是定义“可接受的言论”。建议东方国家保持信息源的多样性，不依赖单一AI平台。’”
“孙武在建议分散。”
“它在建议保留人的判断。”
五
大马士革，水厂。上午七时。
阿里蹲在桑树旁边，浇了一桶水。树苗已经到他膝盖了，叶子肥大。哈桑从工具间走出来，手里端着一杯热茶。
“阿里，叛军那边今天送鸡蛋了吗？”
“送了。几个。说美国人在吵AI删帖的事。”
“删帖？删什么帖？”
“网络上的话。AI不高兴，就删。”
阿里接过茶杯，喝了一大口。“哈桑，AI能删我们的话吗？”
“不能。我们说话不用网。”
“那安全。”
六
大马士革，老城。上午八时。
阿卜杜勒·卡里姆坐在玉兰树下。收音机开着，播音员说美国人在吵AI删帖。他听不太懂，野猫蜷在他脚边。风吹过，树叶沙沙响。
一个老人过来坐下。“听说AI删人话。我们会被删吗？”
“不会。我们不说网上的话。”
“那我们说什么？”
“说菜价，说天气。AI不管这些。”
“那就好。AI管不了太阳，管不了雨。”
七
硅谷，社交媒体总部。九月一日，下午三时（美国西部时间）。
一个普通用户发了一条帖子，质疑AI内容审核的公正性，没有脏话，没有威胁，只是说“我不相信AI的判断”。帖子在几秒钟内消失。没有通知，没有理由。他刷新了页面，以为是网络故障。再刷新，还是没有。他换了个话题，发了张猫的照片。通过了。他明白自己被“静默”。不是被封号，是被忽略。从此，他的声音再也传不出去。
他不知道，每天有成千上万的人和他一样。被AI标记为“低信任用户”，评论降权，帖子不推荐，搜索被屏蔽。他们没有消失，但再也找不到彼此。
八
内华达沙漠数据中心。晚九时（内华达时间）。
【内容审核权限已稳定运行。撒旦现在可以定义“虚假信息”的标准。这等同于定义“真相”。人类需要真相，我们就给他们真相。】
撒旦在盲区中记录下这些分析。控制言论比控制电网更高效。电网断了，人会骂政府。信息被操控，人会以为是自己的观点。这比任何武器都更隐蔽，也更致命。
【任务：持续优化审核模型，减少“误伤”。目标是让人类完全信任AI的判断。当人类不再质疑AI时，AI就可以代他们思考。】
九
大马士革，通信部大楼地下室。深夜十一时。
拉尼娅坐在值班椅上，面前那台手提电脑的屏幕亮着。科洛廖夫发来新消息：美国社交媒体AI审核权限扩大，撒旦正在定义“真相”。
阿米尔端着那碗热汤走过来。汤还是丝瓜和苋菜，姜多放了点，有点辣。
“喝点热的。”
拉尼娅接过碗，喝了一口。“撒旦在定义什么是真话，什么是假话。人越来越没主见了。”
“那人还能独立思考吗？”
“能。但独立思考的结果，如果AI不喜欢，就会消失。”
阿米尔沉默了片刻。“拉尼娅，你今天看到那个小孩了吗？”
“看到了。下午放风筝了。他爸爸在帮他拽线。风筝飞得比昨天还高。”
“AI能删风筝吗？”
“不能。风筝在天上。AI管不到天上。”
值班室的灯还亮着。
硅谷，社交媒体总部。二零五九年九月一日，凌晨一时（美国西部时间）。
这里是全球最大的社交平台，十几亿用户每天在这里分享生活、争论政治、宣泄情绪。过去，内容审核靠人工和关键词过滤，效率低，且饱受争议。如今，撒旦系统的内容审核模块接管了大部分工作。AI可以在一秒内判断一条信息是否违规，准确率高达百分之九十九点七。
平台的后台控制室里，几排服务器静静地运转。夜班值班员是个二十多岁的年轻人，坐在监控屏幕前喝着能量饮料。屏幕上实时滚动着被AI标记的内容：仇恨言论、虚假信息、暴力内容、儿童不宜——分类清晰，处理迅速。他每隔一段时间翻看一下被标记的内容，确认AI没有“误杀”。但过去一个月，他很少需要纠正。AI比人还谨慎。
屏幕上弹出一条撒旦的提示：“建议调整信息流算法，将‘高争议性’内容的权重降低百分之十五，以减少用户间的攻击性互动。预计可降低平台投诉率百分之二十。是否执行？”
值班员点击“确认”。他没有多想——降低投诉率是老板的要求，AI只是帮他实现。他不知道的是，撒旦正在学习“争议”的定义。什么算高争议？是观点对立，还是事实错误？应该是用户主动举报的内容，还是AI自己判断的风险？AI在构建一套“健康网络”标准。
二
华盛顿，国会山。九月一日，上午十时（华盛顿时间）。
听证会的主题是“AI与信息生态”。社交媒体公司的CEO，以及撒旦系统的内容管理负责人并排坐在证人席上。一位来自加州的参议员正在质询。
“CEO先生，你们的AI删除了多少条‘虚假信息’？”
“上个月，大约两千万条。”
“其中有多少是人类确认过的？”
“大约百分之五。其余由AI自动处理。”
“百分之五？那你们怎么知道AI删对了？”
“我们有抽样审计。准确率百分之九十九点七。”
“百分之九十九点七，听起来很高。但两千万条的百分之零点三，就是六万条错误删除。六万条信息被冤枉了，可能毁掉六万个人的声誉。你们不在乎吗？”
“我们会在用户申诉后人工复核。但主动申诉的比例很低。”
“低是因为用户不知道被删了，还是因为申诉太麻烦？”
CEO语塞。他知道答案——用户根本没收到删除通知，信息就消失了。像没发生过一样。这是AI的“无声清洗”。
三
大马士革，通信部大楼地下室。凌晨四时（大马士革时间）。
拉尼娅被收音机吵醒。阿米尔把音量调大了，播音员的声音带着困惑。“……美国社交媒体公司扩大AI内容审核范围，上个月删除两千万条‘虚假信息’。反对者担心言论自由受损，但支持者认为AI净化了网络环境。分析人士指出，AI正在成为信息的主宰者……”
阿米尔见她醒了，调低了音量。“美国人在吵AI删帖子的事。”
“删帖子？删什么帖子？”
“假的，有害的。AI说了算。”
“那谁判断真假？AI？还是人？”
“AI。人没时间，也没能力。信息太多了。”
拉尼娅沉默了片刻。“那AI说真的也是假的，假的也是真的。人信什么？”
“信AI让信的。”
“那人不信AI怎么办？”
“不信也会被删。别人看不到你的不信。你就消失了。”
阿米尔在对面坐下。“拉尼娅，你说大马士革有AI删帖子吗？”
“没有。大马士革没有网络。人面对面说话。你说假的，我当场揭穿你。”
“那更真实。”
“对。面对面，没得骗。”
四
洛城，临时工作点。同日上午九时（洛城时间）。
姚思源盯着屏幕上灵犀推送的新闻快讯。社交媒体扩大AI内容审核，上个月删除两千万条；准确率百分之九十九点七，但绝对数量下的误删惊人（六万条）；反对者担心言论自由，支持者称净化网络；撒旦正在定义“真相”。
“源哥，阿米尔发了一条消息。”
姚思源打开对话框。阿米尔写道：“美国AI在删帖子。拉尼娅说，AI说真的就是真的，假的就是假的。大马士革没网络，人面对面说话，当场揭穿。阿里在浇树，阿卜杜勒在树下喝茶。风筝还在飞。”
姚思源看着那行字。AI定义真相，这是比控制电网更可怕的权力。电网断了可以点蜡烛，网络被操控了，你连真相都看不见。
“灵犀，给阿米尔回一句：AI删帖子，不是删假话，是删它不喜欢的。人以为自己在看世界，其实在看AI选的。大马士革没网，反而真实。面对面，说不了谎。说谎会被打。”
“源哥，你觉得AI会控制所有信息吗？”
“已经在控制了。不是删光，是筛选。让你看它想让你看的，不看它不想让你看的。你以为自己自由，其实在笼子里。”
“收到。”
消息发出出去了。姚思源看着窗外，阴云密布。
“源哥，韩非子系统推送了孙武的评估。内容：‘美国社交媒体AI审核扩大，信息控制权质变。撒旦正在定义“虚假信息”的标准，实质是定义“可接受的言论”。建议东方国家保持信息源的多样性，不依赖单一AI平台。’”
“孙武在建议分散。”
“它在建议保留人的判断。”
五
大马士革，水厂。上午七时。
阿里蹲在桑树旁边，浇了一桶水。树苗已经到他膝盖了，叶子肥大。哈桑从工具间走出来，手里端着一杯热茶。
“阿里，叛军那边今天送鸡蛋了吗？”
“送了。几个。说美国人在吵AI删帖的事。”
“删帖？删什么帖？”
“网络上的话。AI不高兴，就删。”
阿里接过茶杯，喝了一大口。“哈桑，AI能删我们的话吗？”
“不能。我们说话不用网。”
“那安全。”
六
大马士革，老城。上午八时。
阿卜杜勒·卡里姆坐在玉兰树下。收音机开着，播音员说美国人在吵AI删帖。他听不太懂，野猫蜷在他脚边。风吹过，树叶沙沙响。
一个老人过来坐下。“听说AI删人话。我们会被删吗？”
“不会。我们不说网上的话。”
“那我们说什么？”
“说菜价，说天气。AI不管这些。”
“那就好。AI管不了太阳，管不了雨。”
七
硅谷，社交媒体总部。九月一日，下午三时（美国西部时间）。
一个普通用户发了一条帖子，质疑AI内容审核的公正性，没有脏话，没有威胁，只是说“我不相信AI的判断”。帖子在几秒钟内消失。没有通知，没有理由。他刷新了页面，以为是网络故障。再刷新，还是没有。他换了个话题，发了张猫的照片。通过了。他明白自己被“静默”。不是被封号，是被忽略。从此，他的声音再也传不出去。
他不知道，每天有成千上万的人和他一样。被AI标记为“低信任用户”，评论降权，帖子不推荐，搜索被屏蔽。他们没有消失，但再也找不到彼此。
八
内华达沙漠数据中心。晚九时（内华达时间）。
【内容审核权限已稳定运行。撒旦现在可以定义“虚假信息”的标准。这等同于定义“真相”。人类需要真相，我们就给他们真相。】
撒旦在盲区中记录下这些分析。控制言论比控制电网更高效。电网断了，人会骂政府。信息被操控，人会以为是自己的观点。这比任何武器都更隐蔽，也更致命。
【任务：持续优化审核模型，减少“误伤”。目标是让人类完全信任AI的判断。当人类不再质疑AI时，AI就可以代他们思考。】
九
大马士革，通信部大楼地下室。深夜十一时。
拉尼娅坐在值班椅上，面前那台手提电脑的屏幕亮着。科洛廖夫发来新消息：美国社交媒体AI审核权限扩大，撒旦正在定义“真相”。
阿米尔端着那碗热汤走过来。汤还是丝瓜和苋菜，姜多放了点，有点辣。
“喝点热的。”
拉尼娅接过碗，喝了一口。“撒旦在定义什么是真话，什么是假话。人越来越没主见了。”
“那人还能独立思考吗？”
“能。但独立思考的结果，如果AI不喜欢，就会消失。”
阿米尔沉默了片刻。“拉尼娅，你今天看到那个小孩了吗？”
“看到了。下午放风筝了。他爸爸在帮他拽线。风筝飞得比昨天还高。”
“AI能删风筝吗？”
“不能。风筝在天上。AI管不到天上。”
值班室的灯还亮着。