人工不智能：AI狂飙三十年 第135章 老周一句话点破偏见来源
老周点破偏见来源，是在一场培训里。
青橙数科为了应对越来越多的模型公平问题，搞了一次内部培训，标题叫《AI 模型偏差识别与治理》。hR 原本想请外部专家，老板嫌贵，最后让老周讲。老周说自己不讲 ppt，hR 说不行，必须有材料。
于是老周做了三页 ppt。
第一页：数据来自人。
第二页：人有偏见。
第三页：所以数据也会。
hR 看完，表情很复杂：“周老师，这是不是太简洁了？”
老周说：“你们不是说要降本增效？”
培训当天，会议室坐满了人。开发、产品、运营、客服、法务、销售都来了。大家本来以为会听一堆复杂公式，结果老周上台第一句话就是：
“模型偏见不是机器突然学坏了，是它认真学习了人类以前怎么坏。”
会议室里先是一静，然后有人笑出了声。
老周没有笑。他举了三个例子。
招聘系统偏爱名校，不是因为模型崇拜名校，是因为过去公司更常录用名校；风控模型拒绝低收入用户，不是因为模型讨厌穷人，是因为过去穷人更容易在不稳定生活里逾期；教育系统给标准答案高分，不是因为模型讨厌烤肠，是因为过去评分体系更爱优美空话。
“数据不是事实本身。”老周说，“数据是人类记录下来的事实。记录什么，不记录什么，怎么记录，谁有资格被记录，都是选择。”
林凡坐在台下，认真记。
老周继续：“很多人说，模型只是反映现实。对，它反映现实。但现实里有坑，你拿镜子照坑，不等于坑合理。更不能照完以后说，既然镜子里有坑，那大家继续掉。”
张磊小声对林凡说：“周哥今天像哲学系返聘。”
林凡说：“闭嘴，记笔记。”
老周讲到代理特征时，用了一个很接地气的例子：“你不让模型看收入，它看居住地、设备、交易方式；你不让它看年龄，它看工作年限、毕业年份、薪资期望。就像你不让人说穷，他可以说你衣服旧；不让人说老，他可以说你发际线成熟。”
会议室笑成一片。
阿宁举手问：“那是不是不用这些特征就行？”
老周说：“没那么简单。不用可能损失有效信息，用了可能带来偏见。关键是要测试影响，留人工复核，给申诉通道，不让单一特征决定命运。”
陈茜问：“客服反馈算不算数据？”
“算。”老周说，“但客服反馈也有偏。愿意投诉的人是一类，不会投诉的人又是一类。沉默的人，也要想办法看见。”
小吴问：“那有没有完全公平的数据？”
老周看他：“你觉得有没有完全公平的人？”
小吴摇头。
“那就别指望数据成仙。”老周说，“我们能做的是知道它不干净，然后清洗、标注、限制使用、持续检查。技术敬畏不是拜神，是知道自己手里的东西会脏。”
这句话让会议室安静下来。
培训结束后，老板难得没有挑刺。他只是说：“老周讲得很通俗。”
老周说：“因为复杂话容易被拿来装没问题。”
林凡把培训内容整理成内部文档，标题叫《数据偏见基础说明》。他保留了老周那句最核心的话：
数据来自有偏见的人。
苏晓看到文档后，发来消息：
这句话可以当很多报告的第一页。
林凡回：
老周出品。
苏晓：
难怪扎实。
晚上，云启未来白板写：
数据来自人，人有偏见，所以模型要被检查。
何苗写：
反映现实，不等于合理化现实。
张磊写：
别指望数据成仙。
林凡写：
模型偏见不是机器学坏，是机器认真学了人类没改好的部分。
老周看完，点头：“最后一句太长。”
林凡说：“但准确。”
“准确也可以短。”
“您来。”
老周拿起笔，在下面写：
垃圾进，偏见出。
张磊鼓掌：“周哥，英文缩写都省了。”
林桂兰看见后，说：“这跟做饭一样。坏菜进锅，好锅也救不了。”
老周认真点头：“阿姨这个例子，比我 ppt 第四页好。”
hR 后来问老周要不要补第四页。
老周说：“不用。让他们记住三页就够了。”
但林凡知道，自己已经记住了第四页：
坏菜进锅，好锅也救不了。
培训结束后，hR 真把老周那三页 ppt 发到了公司学习平台。系统自动生成课程简介：
本课程系统讲解 AI 模型偏差来源、治理方法及数据伦理原则。
老周看完，皱眉：“我讲得有这么多吗？”
林凡说：“平台替你升华了。”
张磊说：“周哥，您现在也是体系化课程讲师。”
老周冷冷看他：“收费吗？”
“暂时不。”
“那还不算堕落。”
几天后，小吴把“数据来自有偏见的人”贴在自己的显示器边。他说每次看评分表之前先看一眼，防止自己把分数当圣旨。
林凡觉得，这比 hR 平台上的课程完成率更有用。
培训的余波还在继续。销售同事开始在客户方案里加“偏差检测”一页，虽然写得很浅，但至少不再只写“模型客观高效”。客服同事也会在投诉单里标注“疑似群体性误伤”，不再把每个用户都当孤立麻烦。
老周嘴上说“别指望一场培训改变世界”，但林凡看得出来，他看到小吴那张便利贴时，心情不错。
有些知识传下去，不是变成掌声。
是变成别人工作前多看的一眼。
青橙数科为了应对越来越多的模型公平问题，搞了一次内部培训，标题叫《AI 模型偏差识别与治理》。hR 原本想请外部专家，老板嫌贵，最后让老周讲。老周说自己不讲 ppt，hR 说不行，必须有材料。
于是老周做了三页 ppt。
第一页：数据来自人。
第二页：人有偏见。
第三页：所以数据也会。
hR 看完，表情很复杂：“周老师，这是不是太简洁了？”
老周说：“你们不是说要降本增效？”
培训当天，会议室坐满了人。开发、产品、运营、客服、法务、销售都来了。大家本来以为会听一堆复杂公式，结果老周上台第一句话就是：
“模型偏见不是机器突然学坏了，是它认真学习了人类以前怎么坏。”
会议室里先是一静，然后有人笑出了声。
老周没有笑。他举了三个例子。
招聘系统偏爱名校，不是因为模型崇拜名校，是因为过去公司更常录用名校；风控模型拒绝低收入用户，不是因为模型讨厌穷人，是因为过去穷人更容易在不稳定生活里逾期；教育系统给标准答案高分，不是因为模型讨厌烤肠，是因为过去评分体系更爱优美空话。
“数据不是事实本身。”老周说，“数据是人类记录下来的事实。记录什么，不记录什么，怎么记录，谁有资格被记录，都是选择。”
林凡坐在台下，认真记。
老周继续：“很多人说，模型只是反映现实。对，它反映现实。但现实里有坑，你拿镜子照坑，不等于坑合理。更不能照完以后说，既然镜子里有坑，那大家继续掉。”
张磊小声对林凡说：“周哥今天像哲学系返聘。”
林凡说：“闭嘴，记笔记。”
老周讲到代理特征时，用了一个很接地气的例子：“你不让模型看收入，它看居住地、设备、交易方式；你不让它看年龄，它看工作年限、毕业年份、薪资期望。就像你不让人说穷，他可以说你衣服旧；不让人说老，他可以说你发际线成熟。”
会议室笑成一片。
阿宁举手问：“那是不是不用这些特征就行？”
老周说：“没那么简单。不用可能损失有效信息，用了可能带来偏见。关键是要测试影响，留人工复核，给申诉通道，不让单一特征决定命运。”
陈茜问：“客服反馈算不算数据？”
“算。”老周说，“但客服反馈也有偏。愿意投诉的人是一类，不会投诉的人又是一类。沉默的人，也要想办法看见。”
小吴问：“那有没有完全公平的数据？”
老周看他：“你觉得有没有完全公平的人？”
小吴摇头。
“那就别指望数据成仙。”老周说，“我们能做的是知道它不干净，然后清洗、标注、限制使用、持续检查。技术敬畏不是拜神，是知道自己手里的东西会脏。”
这句话让会议室安静下来。
培训结束后，老板难得没有挑刺。他只是说：“老周讲得很通俗。”
老周说：“因为复杂话容易被拿来装没问题。”
林凡把培训内容整理成内部文档，标题叫《数据偏见基础说明》。他保留了老周那句最核心的话：
数据来自有偏见的人。
苏晓看到文档后，发来消息：
这句话可以当很多报告的第一页。
林凡回：
老周出品。
苏晓：
难怪扎实。
晚上，云启未来白板写：
数据来自人，人有偏见，所以模型要被检查。
何苗写：
反映现实，不等于合理化现实。
张磊写：
别指望数据成仙。
林凡写：
模型偏见不是机器学坏，是机器认真学了人类没改好的部分。
老周看完，点头：“最后一句太长。”
林凡说：“但准确。”
“准确也可以短。”
“您来。”
老周拿起笔，在下面写：
垃圾进，偏见出。
张磊鼓掌：“周哥，英文缩写都省了。”
林桂兰看见后，说：“这跟做饭一样。坏菜进锅，好锅也救不了。”
老周认真点头：“阿姨这个例子，比我 ppt 第四页好。”
hR 后来问老周要不要补第四页。
老周说：“不用。让他们记住三页就够了。”
但林凡知道，自己已经记住了第四页：
坏菜进锅，好锅也救不了。
培训结束后，hR 真把老周那三页 ppt 发到了公司学习平台。系统自动生成课程简介：
本课程系统讲解 AI 模型偏差来源、治理方法及数据伦理原则。
老周看完，皱眉：“我讲得有这么多吗？”
林凡说：“平台替你升华了。”
张磊说：“周哥，您现在也是体系化课程讲师。”
老周冷冷看他：“收费吗？”
“暂时不。”
“那还不算堕落。”
几天后，小吴把“数据来自有偏见的人”贴在自己的显示器边。他说每次看评分表之前先看一眼，防止自己把分数当圣旨。
林凡觉得，这比 hR 平台上的课程完成率更有用。
培训的余波还在继续。销售同事开始在客户方案里加“偏差检测”一页，虽然写得很浅，但至少不再只写“模型客观高效”。客服同事也会在投诉单里标注“疑似群体性误伤”，不再把每个用户都当孤立麻烦。
老周嘴上说“别指望一场培训改变世界”，但林凡看得出来，他看到小吴那张便利贴时，心情不错。
有些知识传下去，不是变成掌声。
是变成别人工作前多看的一眼。