人工不智能：AI狂飙三十年 第415章 苏晓推动算法透明审计
热门推荐：
魂穿大宋皇叔，我成水浒总瓢把子
名义：汉大崛起，气晕老沙
以十岁之名，唤一场温柔
负鼎
镇天棺
联盟：从G2青训开始
红楼之捡君记
恶毒皇女不装了，开局纳三千美男
穿越云南虫谷：献王妃求生指南
苏晓推动算法透明审计时，最先遇到的阻力不是技术，而是会议室里的表情管理。
她把审计方案投到屏幕上，标题写得很短：高风险算法透明审计试点。下面列了五项要求：数据来源可追溯，模型用途可说明，关键影响因素可解释，人工复核可介入，外部审计可验证。每一项都不花哨，但每一项都像在企业代表心口放了块砖。
一家平台法务先开口：“苏主任，我们支持透明，但也要保护商业秘密。”
苏晓说：“当然。”
对方松了半口气。
苏晓接着说：“所以我们审的是影响公众权利的部分，不审你们怎么把广告做得更烦人。”
张磊作为观察员坐在最后一排，低头憋笑，肩膀抖得像网络不好。林凡在他旁边小声说：“控制一下。”
张磊说：“她这句应该收费。”
透明审计不是把模型代码公开给所有人看。苏晓很清楚，普通人看不懂代码，企业也不会愿意裸奔。她要的是另一种透明：当一个人被拒绝、被限权、被降级、被标记为风险时，系统必须说清主要依据，必须留下可查日志，必须允许独立人员验证是否存在偏见、错误和滥用。
她把一个案例放出来。某招聘平台的筛选模型声称“综合匹配岗位需求”，但审计抽样发现，长期照护家庭成员的求职者被系统性降低推荐权重。平台解释说模型只是根据“工作连续性”判断稳定性。苏晓问：“照顾家人为什么自动等于不稳定？这个判断是谁放进去的？”
技术负责人说：“这是模型从历史数据中学习到的。”
苏晓说：“历史数据里有偏见，模型学会了，不代表它无辜。”
对方说：“我们没有主观歧视。”
苏晓说：“透明审计查的就是这种没有主观、但有后果的东西。”
会议室安静下来。林凡看着苏晓，忽然想起很多年前，她第一次在项目会上指出自动评分漏洞时，也是这种表情。不愤怒，不表演，只是一条一条把问题钉在桌面上，让人绕不开。
试点方案最复杂的部分是解释层。企业习惯用技术词汇自保，什么特征权重、置信区间、阈值漂移，一串词扔出来，普通人立刻觉得自己不配知道。苏晓要求每个高风险决策生成两份说明：专业版给审计人员，人话版给当事人。专业版必须可验证，人话版必须可理解。
有人抗议：“人话版容易过度简化。”
苏晓说：“那就练。你们能把贷款广告简化成‘三分钟到账’，也能把拒绝理由讲清楚。”
张磊在本子上写：苏主任今日输出稳定，建议保存。
审计团队成立后，苏晓亲自带第一轮。团队里有技术专家、法律人员、窗口代表、社区代表和公众观察员。林桂兰也被邀请参加，她一开始拒绝，说自己又不懂算法。苏晓说：“我们需要你判断说明是不是人能看懂。”
林桂兰说：“那我很懂。”
第一家被审的是一家大型信用服务平台。会议从早上九点开到下午四点，企业准备了三十六页材料，第一页写“模型公平性治理体系概览”，林桂兰看到标题就叹气：“我还没进去就想出来了。”
平台展示模型解释界面：您的申请未通过，主要原因为近期综合行为稳定性不足。
林桂兰问：“这是什么意思？”
产品经理说：“就是系统认为近期数据波动较大。”
林桂兰问：“什么数据？”
产品经理说：“包括收入、消费、出行、设备使用等多维度信号。”
林桂兰说：“那就写。别说稳定性不足，听着像人品不行。”
这句话让整个团队都停了一下。林凡在旁边补充：“很多说明不只是看不懂，还会伤人。被拒绝已经够难受了，再给一个像道德评价的词，会让人以为自己这个人不合格。”
苏晓把“伤害性措辞”写进审计问题清单。
技术专家检查日志时发现另一个问题：某些风险提示没有触发人工复核，因为阈值设置把低收入群体的异常波动视为“常见波动”，直接进入自动拒绝。平台解释这是为了减少误报。苏晓追问：“减少谁的误报？增加谁的误拒？”
技术负责人额头开始冒汗。
审计不是吵架，但比吵架更累。每一项都要证据，每一个问题都要追到责任人，每一个改法都要能落地。苏晓从上午到下午只喝了半杯水，午饭盒饭放凉也没吃。林凡提醒她，她说等一下。等一下变成两个小时。张磊看不下去，把盒饭推过去：“苏主任，您再不吃，人工复核先复核您的血糖。”
林桂兰说：“工作再重要，也不能把自己当后台任务。”
苏晓终于拿起筷子，吃了两口，继续看材料。她吃饭的速度像在处理紧急工单，林凡想劝，又知道劝不动，只能把热水放到她手边。
第一轮审计结束，问题清单列了二十七项：数据来源说明不完整，拒绝理由过度概括，人工复核触发条件偏窄，申诉入口隐藏，部分变量存在间接歧视风险，日志保存不符合新规。企业代表脸色很难看，但没有再说“我们一直高度重视”。证据摆在那里，重视不能替代修改。
苏晓给出整改期限和复审日期。对方问能不能内部整改，不公开具体问题，怕影响品牌。
苏晓说：“涉及公众权利的整改结论必须公开。你们可以解释原因，但不能把问题藏起来。”
对方叹气：“苏主任，您这样企业压力很大。”
苏晓看着他：“被系统误判的人压力也很大。”
回去的车上，张磊瘫在后座：“我今天学到一个道理，透明审计不是打开窗户，是把窗户、窗帘、墙纸和墙后面的洞都看一遍。”
林桂兰说：“还得看他们有没有在洞上贴海报。”
林凡笑了。苏晓闭着眼靠在座椅上，嘴角也动了一下。她很少在工作后显出疲惫，那天却明显累了。透明不是一句漂亮话，它要把多年积累的黑箱一层层拆开，每拆一层，都会有人喊疼，有人喊冤，有人喊商业秘密，有人喊行业寒冬。
林凡轻声说：“辛苦了。”
苏晓没睁眼：“别煽情。”
张磊说：“苏主任这是进入省电模式。”
林桂兰说：“你闭嘴，让她歇会儿。”
车窗外，城市的灯一盏盏亮起来。那些灯照不到所有角落，但至少有人开始要求，决定别人命运的地方不能永远黑着。苏晓睁开眼，看见手机里弹出第一家平台的整改确认函。她点开，确认对方承诺公开审计摘要、调整解释文案、扩大人工复核范围。
她没有笑得很明显，只是把手机收起来。
林凡问：“算好消息吗？”
苏晓说：“算第一颗螺丝拧动了。”
她把审计方案投到屏幕上，标题写得很短：高风险算法透明审计试点。下面列了五项要求：数据来源可追溯，模型用途可说明，关键影响因素可解释，人工复核可介入，外部审计可验证。每一项都不花哨，但每一项都像在企业代表心口放了块砖。
一家平台法务先开口：“苏主任，我们支持透明，但也要保护商业秘密。”
苏晓说：“当然。”
对方松了半口气。
苏晓接着说：“所以我们审的是影响公众权利的部分，不审你们怎么把广告做得更烦人。”
张磊作为观察员坐在最后一排，低头憋笑，肩膀抖得像网络不好。林凡在他旁边小声说：“控制一下。”
张磊说：“她这句应该收费。”
透明审计不是把模型代码公开给所有人看。苏晓很清楚，普通人看不懂代码，企业也不会愿意裸奔。她要的是另一种透明：当一个人被拒绝、被限权、被降级、被标记为风险时，系统必须说清主要依据，必须留下可查日志，必须允许独立人员验证是否存在偏见、错误和滥用。
她把一个案例放出来。某招聘平台的筛选模型声称“综合匹配岗位需求”，但审计抽样发现，长期照护家庭成员的求职者被系统性降低推荐权重。平台解释说模型只是根据“工作连续性”判断稳定性。苏晓问：“照顾家人为什么自动等于不稳定？这个判断是谁放进去的？”
技术负责人说：“这是模型从历史数据中学习到的。”
苏晓说：“历史数据里有偏见，模型学会了，不代表它无辜。”
对方说：“我们没有主观歧视。”
苏晓说：“透明审计查的就是这种没有主观、但有后果的东西。”
会议室安静下来。林凡看着苏晓，忽然想起很多年前，她第一次在项目会上指出自动评分漏洞时，也是这种表情。不愤怒，不表演，只是一条一条把问题钉在桌面上，让人绕不开。
试点方案最复杂的部分是解释层。企业习惯用技术词汇自保，什么特征权重、置信区间、阈值漂移，一串词扔出来，普通人立刻觉得自己不配知道。苏晓要求每个高风险决策生成两份说明：专业版给审计人员，人话版给当事人。专业版必须可验证，人话版必须可理解。
有人抗议：“人话版容易过度简化。”
苏晓说：“那就练。你们能把贷款广告简化成‘三分钟到账’，也能把拒绝理由讲清楚。”
张磊在本子上写：苏主任今日输出稳定，建议保存。
审计团队成立后，苏晓亲自带第一轮。团队里有技术专家、法律人员、窗口代表、社区代表和公众观察员。林桂兰也被邀请参加，她一开始拒绝，说自己又不懂算法。苏晓说：“我们需要你判断说明是不是人能看懂。”
林桂兰说：“那我很懂。”
第一家被审的是一家大型信用服务平台。会议从早上九点开到下午四点，企业准备了三十六页材料，第一页写“模型公平性治理体系概览”，林桂兰看到标题就叹气：“我还没进去就想出来了。”
平台展示模型解释界面：您的申请未通过，主要原因为近期综合行为稳定性不足。
林桂兰问：“这是什么意思？”
产品经理说：“就是系统认为近期数据波动较大。”
林桂兰问：“什么数据？”
产品经理说：“包括收入、消费、出行、设备使用等多维度信号。”
林桂兰说：“那就写。别说稳定性不足，听着像人品不行。”
这句话让整个团队都停了一下。林凡在旁边补充：“很多说明不只是看不懂，还会伤人。被拒绝已经够难受了，再给一个像道德评价的词，会让人以为自己这个人不合格。”
苏晓把“伤害性措辞”写进审计问题清单。
技术专家检查日志时发现另一个问题：某些风险提示没有触发人工复核，因为阈值设置把低收入群体的异常波动视为“常见波动”，直接进入自动拒绝。平台解释这是为了减少误报。苏晓追问：“减少谁的误报？增加谁的误拒？”
技术负责人额头开始冒汗。
审计不是吵架，但比吵架更累。每一项都要证据，每一个问题都要追到责任人，每一个改法都要能落地。苏晓从上午到下午只喝了半杯水，午饭盒饭放凉也没吃。林凡提醒她，她说等一下。等一下变成两个小时。张磊看不下去，把盒饭推过去：“苏主任，您再不吃，人工复核先复核您的血糖。”
林桂兰说：“工作再重要，也不能把自己当后台任务。”
苏晓终于拿起筷子，吃了两口，继续看材料。她吃饭的速度像在处理紧急工单，林凡想劝，又知道劝不动，只能把热水放到她手边。
第一轮审计结束，问题清单列了二十七项：数据来源说明不完整，拒绝理由过度概括，人工复核触发条件偏窄，申诉入口隐藏，部分变量存在间接歧视风险，日志保存不符合新规。企业代表脸色很难看，但没有再说“我们一直高度重视”。证据摆在那里，重视不能替代修改。
苏晓给出整改期限和复审日期。对方问能不能内部整改，不公开具体问题，怕影响品牌。
苏晓说：“涉及公众权利的整改结论必须公开。你们可以解释原因，但不能把问题藏起来。”
对方叹气：“苏主任，您这样企业压力很大。”
苏晓看着他：“被系统误判的人压力也很大。”
回去的车上，张磊瘫在后座：“我今天学到一个道理，透明审计不是打开窗户，是把窗户、窗帘、墙纸和墙后面的洞都看一遍。”
林桂兰说：“还得看他们有没有在洞上贴海报。”
林凡笑了。苏晓闭着眼靠在座椅上，嘴角也动了一下。她很少在工作后显出疲惫，那天却明显累了。透明不是一句漂亮话，它要把多年积累的黑箱一层层拆开，每拆一层，都会有人喊疼，有人喊冤，有人喊商业秘密，有人喊行业寒冬。
林凡轻声说：“辛苦了。”
苏晓没睁眼：“别煽情。”
张磊说：“苏主任这是进入省电模式。”
林桂兰说：“你闭嘴，让她歇会儿。”
车窗外，城市的灯一盏盏亮起来。那些灯照不到所有角落，但至少有人开始要求，决定别人命运的地方不能永远黑着。苏晓睁开眼，看见手机里弹出第一家平台的整改确认函。她点开，确认对方承诺公开审计摘要、调整解释文案、扩大人工复核范围。
她没有笑得很明显，只是把手机收起来。
林凡问：“算好消息吗？”
苏晓说：“算第一颗螺丝拧动了。”