人工不智能：AI狂飙三十年 第133章 算法把穷人判得更穷
热门推荐：
魂穿大宋皇叔，我成水浒总瓢把子
名义：汉大崛起，气晕老沙
以十岁之名，唤一场温柔
负鼎
镇天棺
联盟：从G2青训开始
红楼之捡君记
恶毒皇女不装了，开局纳三千美男
穿越云南虫谷：献王妃求生指南
报告结论出来时，办公室安静了很久。
模型没有直接使用“贫困”“低收入”“阶层”这些词。它只是用了居住地消费水平、线上流水稳定性、设备更换频率、账户余额波动、社交电商交易比例、合同完整度、发票记录等看似中性的特征。
可这些特征叠在一起，效果很清楚：
越穷的人，越像风险。
不是因为他们一定会违约，而是因为他们的生活更不稳定、更难被系统记录、更少拥有标准证明、更常使用非正式渠道。模型把这些现实困境，当成了未来风险的证据。
张磊看完报告，说：“这不就是穷人因为穷，被判更可能穷下去？”
苏晓点头：“是阶层固化的技术版本。”
信衡内部会议开得很压抑。老板皱着眉说：“但从商业角度，我们确实要控制风险。”
苏晓说：“控制风险不等于拒绝所有看起来麻烦的人。”
“可平台不是慈善机构。”
“也不是只服务数据好看的人。”苏晓说，“如果小微金融只借给已经足够稳定的人，那它解决的就不是小微问题。”
林凡把案例放出来。修车摊老板因为孩子学费导致余额波动，被降分；早餐铺因为现金交易多，被判流水不足；社区团购摊主因为社交平台交易比例高，被判收入不稳定；一个做家政的小团队，因为没有正式劳动合同，被判经营结构不清。
老板说：“这些个案很让人同情，但模型看的是整体。”
林凡说：“整体就是由这些个案组成的。”
会议室又安静。
供应商代表解释，模型只是根据历史数据学习风险模式。历史上，低收入群体确实更容易出现还款波动。模型没有偏见，只是反映数据。
老周听到这里，终于开口：“数据不是天上掉下来的。历史里穷人更容易逾期，可能因为他们不守信，也可能因为他们更容易失业、生病、被拖欠工资、缺少缓冲。你把结果喂给模型，不告诉它原因，它当然学会嫌弃结果。”
供应商代表脸色不太好。
苏晓补：“如果模型只学习谁过去更容易失败，而不区分为什么失败，它就会把社会问题变成个人风险。”
这句话像一把刀，切开了会议室里所有“中性特征”的包装。
最终方案很艰难。信衡不可能完全放开风险，也不能无视报告。苏晓提出建立“弱数据可信补充机制”：对无逾期、经营年限较长、现金流波动但有可解释原因的用户，进入人工复核；允许非标准经营证明；模型拒绝理由必须区分“数据缺失”和“高风险证据”；不得将低收入代理特征单独作为拒绝主因。
老板问：“这会增加多少成本？”
林凡说：“比错杀客户低。”
苏晓说：“也比以后监管问责低。”
老板看了她一眼，终于点头：“先试点。”
会后，张磊问林凡：“这算赢了吗？”
林凡说：“算开了个口。”
“口多大？”
“比没有大。”
张磊叹气：“你们现在都喜欢这种现实主义胜利。”
何苗说：“因为现实不提供爽文结算。”
晚上，白板写：
算法把穷人判得更穷，不是因为它恨穷人，是因为它学会了世界怎么对待穷人。
何苗写：
中性特征组合起来，也会长出偏见。
张磊写：
穷不是违约证据。
林凡写：
如果模型只看结果，不问原因，它会把社会伤口算成个人缺陷。
苏晓发来：
最后一句保留。
林凡回：
授权？
苏晓：
这句是你的。
林凡看着屏幕，笑了一下。
有些话终于开始像他自己的。
试点方案上线后，第一批被重新复核的用户里，有七个人通过了补充材料审核。数字不大，却很具体。修车摊老板拿到了一笔小额周转，早餐铺补了租金记录，社区团购摊主提供了供应商收据。
张磊问：“七个人值得折腾这么久吗？”
苏晓说：“对报表来说不多。对那七个人来说，是七次。”
何苗点头：“人不是按总量感受公平的。”
林凡把这句话写进报告附注。
老板嫌附注太文学，林凡改成：建议关注个体层面申诉成效。
张磊评价：“人话穿西装又来了。”
试点一周后，那七个人里有一个修车摊老板特意给信衡客服打电话，说自己以前觉得贷款平台都是“看不起小摊的”，这次有人让他补材料，他虽然跑了两趟，但至少知道自己为什么被拒、又为什么能过。
陈茜把这段反馈转给林凡。
林凡看完，觉得这比通过率曲线更让人踏实。不是因为系统突然公平了，而是因为一个人终于不再只面对一个黑箱结果。
公平有时候不是一次性给答案。
是让人有机会把自己说完。
张磊听完这个案例，沉默了一会儿，说：“我以前最怕系统拒绝我，现在发现更怕它拒绝我还不告诉我为什么。”
何苗说：“因为不知道为什么，就没法改，也没法反驳。”
林凡点头。
黑箱最伤人的地方，不只是关门。
是让门外的人怀疑，是不是自己连敲门的姿势都错了。
苏晓把这句话改成报告语言：
需降低用户对拒绝结果的不可解释性负担。
张磊看完说：“人话又穿西装，还打领带了。”
林凡说：“但能进报告。”
这就是他们现在常做的事：把疼的话翻译成能被会议接受的话，再尽量不让疼意完全消失。
别翻没了。
切记。
模型没有直接使用“贫困”“低收入”“阶层”这些词。它只是用了居住地消费水平、线上流水稳定性、设备更换频率、账户余额波动、社交电商交易比例、合同完整度、发票记录等看似中性的特征。
可这些特征叠在一起，效果很清楚：
越穷的人，越像风险。
不是因为他们一定会违约，而是因为他们的生活更不稳定、更难被系统记录、更少拥有标准证明、更常使用非正式渠道。模型把这些现实困境，当成了未来风险的证据。
张磊看完报告，说：“这不就是穷人因为穷，被判更可能穷下去？”
苏晓点头：“是阶层固化的技术版本。”
信衡内部会议开得很压抑。老板皱着眉说：“但从商业角度，我们确实要控制风险。”
苏晓说：“控制风险不等于拒绝所有看起来麻烦的人。”
“可平台不是慈善机构。”
“也不是只服务数据好看的人。”苏晓说，“如果小微金融只借给已经足够稳定的人，那它解决的就不是小微问题。”
林凡把案例放出来。修车摊老板因为孩子学费导致余额波动，被降分；早餐铺因为现金交易多，被判流水不足；社区团购摊主因为社交平台交易比例高，被判收入不稳定；一个做家政的小团队，因为没有正式劳动合同，被判经营结构不清。
老板说：“这些个案很让人同情，但模型看的是整体。”
林凡说：“整体就是由这些个案组成的。”
会议室又安静。
供应商代表解释，模型只是根据历史数据学习风险模式。历史上，低收入群体确实更容易出现还款波动。模型没有偏见，只是反映数据。
老周听到这里，终于开口：“数据不是天上掉下来的。历史里穷人更容易逾期，可能因为他们不守信，也可能因为他们更容易失业、生病、被拖欠工资、缺少缓冲。你把结果喂给模型，不告诉它原因，它当然学会嫌弃结果。”
供应商代表脸色不太好。
苏晓补：“如果模型只学习谁过去更容易失败，而不区分为什么失败，它就会把社会问题变成个人风险。”
这句话像一把刀，切开了会议室里所有“中性特征”的包装。
最终方案很艰难。信衡不可能完全放开风险，也不能无视报告。苏晓提出建立“弱数据可信补充机制”：对无逾期、经营年限较长、现金流波动但有可解释原因的用户，进入人工复核；允许非标准经营证明；模型拒绝理由必须区分“数据缺失”和“高风险证据”；不得将低收入代理特征单独作为拒绝主因。
老板问：“这会增加多少成本？”
林凡说：“比错杀客户低。”
苏晓说：“也比以后监管问责低。”
老板看了她一眼，终于点头：“先试点。”
会后，张磊问林凡：“这算赢了吗？”
林凡说：“算开了个口。”
“口多大？”
“比没有大。”
张磊叹气：“你们现在都喜欢这种现实主义胜利。”
何苗说：“因为现实不提供爽文结算。”
晚上，白板写：
算法把穷人判得更穷，不是因为它恨穷人，是因为它学会了世界怎么对待穷人。
何苗写：
中性特征组合起来，也会长出偏见。
张磊写：
穷不是违约证据。
林凡写：
如果模型只看结果，不问原因，它会把社会伤口算成个人缺陷。
苏晓发来：
最后一句保留。
林凡回：
授权？
苏晓：
这句是你的。
林凡看着屏幕，笑了一下。
有些话终于开始像他自己的。
试点方案上线后，第一批被重新复核的用户里，有七个人通过了补充材料审核。数字不大，却很具体。修车摊老板拿到了一笔小额周转，早餐铺补了租金记录，社区团购摊主提供了供应商收据。
张磊问：“七个人值得折腾这么久吗？”
苏晓说：“对报表来说不多。对那七个人来说，是七次。”
何苗点头：“人不是按总量感受公平的。”
林凡把这句话写进报告附注。
老板嫌附注太文学，林凡改成：建议关注个体层面申诉成效。
张磊评价：“人话穿西装又来了。”
试点一周后，那七个人里有一个修车摊老板特意给信衡客服打电话，说自己以前觉得贷款平台都是“看不起小摊的”，这次有人让他补材料，他虽然跑了两趟，但至少知道自己为什么被拒、又为什么能过。
陈茜把这段反馈转给林凡。
林凡看完，觉得这比通过率曲线更让人踏实。不是因为系统突然公平了，而是因为一个人终于不再只面对一个黑箱结果。
公平有时候不是一次性给答案。
是让人有机会把自己说完。
张磊听完这个案例，沉默了一会儿，说：“我以前最怕系统拒绝我，现在发现更怕它拒绝我还不告诉我为什么。”
何苗说：“因为不知道为什么，就没法改，也没法反驳。”
林凡点头。
黑箱最伤人的地方，不只是关门。
是让门外的人怀疑，是不是自己连敲门的姿势都错了。
苏晓把这句话改成报告语言：
需降低用户对拒绝结果的不可解释性负担。
张磊看完说：“人话又穿西装，还打领带了。”
林凡说：“但能进报告。”
这就是他们现在常做的事：把疼的话翻译成能被会议接受的话，再尽量不让疼意完全消失。
别翻没了。
切记。