人工不智能：AI狂飙三十年 第416章 透明之后大家发现没人懂
第一份算法透明审计摘要公开那天，下载量冲上了本地政务平台第一名。这个成绩让宣传部门很激动，以为公众终于开始主动关心公共治理。三小时后他们发现，下载量高的原因不是大家看懂了，而是很多人点进去后不服气，退出，再点，再退出，像在跟一份文件互相较劲。
摘要标题不算吓人：《某信用服务平台高风险模型透明审计试点情况说明》。但正文第一页就写：“该模型在收入波动变量、设备更换频次变量、低频出行变量之间存在间接关联放大，导致部分用户风险权重偏移。”老王读到这里，摘下眼镜问：“它说我啥？”
林桂兰也看不懂，但她很诚实：“它说得不像人。”
张磊的小店当天挤满了人。门口队伍排到包子铺，包子铺老板以为生意来了，结果大家都举着手机问：“这个审计摘要什么意思？”老板看了两眼，说：“我卖包子，不卖语文。”
张磊把店里小黑板擦干净，写上今天新增业务：透明文件翻译。下面加括号：不是把中文翻成中文，是把文件翻成人话。
第一个来的是赵姨。她把摘要打印出来，纸上画满圈。她指着“间接关联放大”问：“这是骂人还是夸人？”
张磊说：“都不是。意思是系统把一些看似无关的小事凑在一起，最后误会你。”
赵姨问：“比如？”
张磊想了想：“比如你换手机、少出门、收入有波动，系统可能觉得你风险高。但你可能只是手机坏了、腰疼在家、孩子给你转了笔钱。”
赵姨拍桌：“那不就是瞎猜还装有依据？”
张磊说：“恭喜你，已理解本段核心。”
旁边一个年轻人举手：“那这个‘阈值漂移’呢？”
张磊说：“门槛偷偷挪了。”
“‘样本分布不均衡’呢？”
“它见过的人不够全，还敢给所有人下判断。”
“‘模型稳定性待持续观测’呢？”
“它现在不一定靠谱，但还想继续上班。”
店里一阵爆笑。笑完大家又沉默，因为这些翻译好笑，却一点也不轻松。过去大家看不见黑箱，以为里面住着一个公正冷静的东西。现在箱子打开一条缝，发现里面不是神谕，是一堆变量、偏差、补丁和没人敢负责的历史习惯。
苏晓很快收到反馈。公众意见表里最常见的一句是：公开了，但看不懂。第二句是：看不懂，但感觉有事。第三句最实在：能不能配图？
技术组一开始不服气。一个专家说：“摘要已经尽量通俗了。”
林桂兰拿着摘要走进复盘会，把第一页放到桌上：“你念给我听。”
专家照念：“收入波动变量与设备更换频次之间存在不合理关联。”
林桂兰问：“啥叫变量？”
专家卡住。
张磊在旁边小声说：“开局三秒阵亡。”
苏晓没有笑。她让团队把摘要分成三层：第一层给公众，用三个问题回答：它影响了谁、错在哪里、怎么改；第二层给当事人，说明怎样查自己是否受影响、如何申诉；第三层给专业审计，保留技术细节和证据链。她说：“透明不是把玻璃擦干净就行，还要保证人站在外面看得见里面发生了什么。”
于是第二版摘要诞生了。开头第一句改成：这个模型曾经把一些生活变化误当成信用风险，例如换手机、少出门、临时收入波动。受影响的人可以申请复核，平台必须重新解释并纠正。
老王读完说：“这回像人话。”
但人话版也带来新的混乱。有人读完觉得自己肯定被误判，立刻去申诉；有人没被影响也想申诉，理由是“来都来了”；有人把“换手机可能被误判”理解成“以后不能换手机”，跑到手机店退货。手机店老板急得在门口贴纸：换手机不违法，别问我信用模型。
社区活动室又开了临时课。林桂兰站在前面说：“看透明文件，不是看热闹。先看三件事：跟不跟你有关，能不能查，怎么改。”
老王举手：“如果跟我无关，但我看着生气呢？”
林桂兰说：“可以生气，但别堵窗口。”
张磊补充：“生气属于个人情绪，不属于有效申诉材料。”
大家笑起来。有人说这课应该叫“理性吃瓜”。林桂兰说：“吃瓜也要洗手。”
林凡参与设计了新版解释页面。页面不再堆术语，而是像普通问答：为什么公开？发现了什么问题？谁可能受影响？我该做什么？平台要改什么？每个问题后面都有“看详细技术说明”的折叠按钮。张磊建议把按钮文字改成“我非要看难的”，被苏晓无情否决。
不过她保留了另一个建议：每份说明最后加一个人工咨询入口。因为透明之后，问题并不会自动消失。很多人需要的不是更多文件，而是有人能听他们把自己的情况说完，再告诉他下一步怎么走。
第二版发布后，投诉减少了一些，咨询变得更具体了。窗口工作人员反馈，群众不再只说“你们系统欺负我”，而是会问“我是不是属于这类误判”。这句话听起来仍然别扭，却意味着人们开始从无力的愤怒走向可操作的追问。
苏晓看着后台数据，肩膀终于松了一点。林凡把一杯水放到她旁边：“透明的第一课，是承认大家看不懂。”
苏晓说：“第二课，是别怪大家看不懂。”
张磊从门口探头：“第三课，是请把文件交给我翻译，价格公道，童叟无欺。”
林桂兰在后面说：“你少趁乱涨价。”
张磊立刻缩回去：“林老师透明审计我的商业模式。”
那天晚上，政务平台的审计摘要页面新增了一个小栏目，名字叫“这句话什么意思”。里面第一条解释的是“间接关联放大”。官方版本写：多个生活变量被模型错误组合，导致风险判断偏高。民间评论区热评第一写：系统把你平平无奇的倒霉日子脑补成大案要案。
苏晓看见热评，沉默三秒。
林凡问：“删吗？”
苏晓说：“不删。”
张磊感动：“苏主任，您进步了。”
苏晓说：“因为它准确。”
摘要标题不算吓人：《某信用服务平台高风险模型透明审计试点情况说明》。但正文第一页就写：“该模型在收入波动变量、设备更换频次变量、低频出行变量之间存在间接关联放大，导致部分用户风险权重偏移。”老王读到这里，摘下眼镜问：“它说我啥？”
林桂兰也看不懂，但她很诚实：“它说得不像人。”
张磊的小店当天挤满了人。门口队伍排到包子铺，包子铺老板以为生意来了，结果大家都举着手机问：“这个审计摘要什么意思？”老板看了两眼，说：“我卖包子，不卖语文。”
张磊把店里小黑板擦干净，写上今天新增业务：透明文件翻译。下面加括号：不是把中文翻成中文，是把文件翻成人话。
第一个来的是赵姨。她把摘要打印出来，纸上画满圈。她指着“间接关联放大”问：“这是骂人还是夸人？”
张磊说：“都不是。意思是系统把一些看似无关的小事凑在一起，最后误会你。”
赵姨问：“比如？”
张磊想了想：“比如你换手机、少出门、收入有波动，系统可能觉得你风险高。但你可能只是手机坏了、腰疼在家、孩子给你转了笔钱。”
赵姨拍桌：“那不就是瞎猜还装有依据？”
张磊说：“恭喜你，已理解本段核心。”
旁边一个年轻人举手：“那这个‘阈值漂移’呢？”
张磊说：“门槛偷偷挪了。”
“‘样本分布不均衡’呢？”
“它见过的人不够全，还敢给所有人下判断。”
“‘模型稳定性待持续观测’呢？”
“它现在不一定靠谱，但还想继续上班。”
店里一阵爆笑。笑完大家又沉默，因为这些翻译好笑，却一点也不轻松。过去大家看不见黑箱，以为里面住着一个公正冷静的东西。现在箱子打开一条缝，发现里面不是神谕，是一堆变量、偏差、补丁和没人敢负责的历史习惯。
苏晓很快收到反馈。公众意见表里最常见的一句是：公开了，但看不懂。第二句是：看不懂，但感觉有事。第三句最实在：能不能配图？
技术组一开始不服气。一个专家说：“摘要已经尽量通俗了。”
林桂兰拿着摘要走进复盘会，把第一页放到桌上：“你念给我听。”
专家照念：“收入波动变量与设备更换频次之间存在不合理关联。”
林桂兰问：“啥叫变量？”
专家卡住。
张磊在旁边小声说：“开局三秒阵亡。”
苏晓没有笑。她让团队把摘要分成三层：第一层给公众，用三个问题回答：它影响了谁、错在哪里、怎么改；第二层给当事人，说明怎样查自己是否受影响、如何申诉；第三层给专业审计，保留技术细节和证据链。她说：“透明不是把玻璃擦干净就行，还要保证人站在外面看得见里面发生了什么。”
于是第二版摘要诞生了。开头第一句改成：这个模型曾经把一些生活变化误当成信用风险，例如换手机、少出门、临时收入波动。受影响的人可以申请复核，平台必须重新解释并纠正。
老王读完说：“这回像人话。”
但人话版也带来新的混乱。有人读完觉得自己肯定被误判，立刻去申诉；有人没被影响也想申诉，理由是“来都来了”；有人把“换手机可能被误判”理解成“以后不能换手机”，跑到手机店退货。手机店老板急得在门口贴纸：换手机不违法，别问我信用模型。
社区活动室又开了临时课。林桂兰站在前面说：“看透明文件，不是看热闹。先看三件事：跟不跟你有关，能不能查，怎么改。”
老王举手：“如果跟我无关，但我看着生气呢？”
林桂兰说：“可以生气，但别堵窗口。”
张磊补充：“生气属于个人情绪，不属于有效申诉材料。”
大家笑起来。有人说这课应该叫“理性吃瓜”。林桂兰说：“吃瓜也要洗手。”
林凡参与设计了新版解释页面。页面不再堆术语，而是像普通问答：为什么公开？发现了什么问题？谁可能受影响？我该做什么？平台要改什么？每个问题后面都有“看详细技术说明”的折叠按钮。张磊建议把按钮文字改成“我非要看难的”，被苏晓无情否决。
不过她保留了另一个建议：每份说明最后加一个人工咨询入口。因为透明之后，问题并不会自动消失。很多人需要的不是更多文件，而是有人能听他们把自己的情况说完，再告诉他下一步怎么走。
第二版发布后，投诉减少了一些，咨询变得更具体了。窗口工作人员反馈，群众不再只说“你们系统欺负我”，而是会问“我是不是属于这类误判”。这句话听起来仍然别扭，却意味着人们开始从无力的愤怒走向可操作的追问。
苏晓看着后台数据，肩膀终于松了一点。林凡把一杯水放到她旁边：“透明的第一课，是承认大家看不懂。”
苏晓说：“第二课，是别怪大家看不懂。”
张磊从门口探头：“第三课，是请把文件交给我翻译，价格公道，童叟无欺。”
林桂兰在后面说：“你少趁乱涨价。”
张磊立刻缩回去：“林老师透明审计我的商业模式。”
那天晚上，政务平台的审计摘要页面新增了一个小栏目，名字叫“这句话什么意思”。里面第一条解释的是“间接关联放大”。官方版本写：多个生活变量被模型错误组合，导致风险判断偏高。民间评论区热评第一写：系统把你平平无奇的倒霉日子脑补成大案要案。
苏晓看见热评，沉默三秒。
林凡问：“删吗？”
苏晓说：“不删。”
张磊感动：“苏主任，您进步了。”
苏晓说：“因为它准确。”