人工不智能：AI狂飙三十年 第80章 林凡被迫做伦理审核
林凡第一次听到“伦理审核”四个字，是在老板嘴里。
老板说这话时，语气像在宣布公司新增了一个高级部门：“我们要建立 AI 伦理审核机制，体现企业责任，提升客户信任。”
林凡坐在会议室后排，心里立刻翻译：客户开始问责了，公司需要一个听起来不会出事的词。
项目经理把文件发下来。审核小组暂定三人：老周、林凡、法务小陈。职责包括对高风险 AI 项目做上线前评估，审查数据来源、用户授权、输出边界、人工复核机制和应急预案。
张磊听说后，第一反应：“你升官了？”
林凡说：“没有。”
“加薪了？”
“也没有。”
“那为什么叫伦理审核？”
“因为叫背锅预备役不好听。”
老周倒不这么看。他把审核表拍在林凡桌上：“别嫌名字虚。名字虚，事情可以做实。”
第一份送审项目，是一个“智能心理陪伴助手”。客户是一家内容平台，想给用户提供 24 小时聊天陪伴，主打缓解孤独、情绪支持和轻咨询。ppt 做得非常柔软，浅蓝色背景，圆角气泡，配图是年轻人抱着膝盖看窗外。
林凡看着 ppt，想起凌晨那个问“如果我消失了”的用户，后背有点紧。
客户产品经理介绍：“我们不做医疗，只做陪伴。AI 会倾听用户，给出积极回应，必要时建议寻求专业帮助。”
林凡问：“怎么判断必要时？”
产品经理切到下一页：“我们有关键词识别，比如自伤、自杀、消失、活不下去等。”
老周问：“用户如果不说关键词，只说‘我累了，不想醒’，识别吗？”
产品经理顿了一下：“这个可以优化。”
法务小陈问：“有真人干预流程吗？”
产品经理说：“我们计划先用 AI 自动安抚，降低人工成本。人工客服只处理投诉。”
林凡抬头：“情绪危机不是投诉。”
会议室安静。
客户解释：“我们的定位不是危机干预，如果做太重，项目成本会非常高。”
老周说：“那就别宣传 24 小时陪伴。你不能把门开得像避难所，里面只放一个复读机。”
这句话有点硬。项目经理在旁边又开始眼神报警。
林凡翻审核表，逐项勾问题：高风险语句识别不足；缺少人工升级通道；未明确数据保存周期；用户聊天内容可能涉及高度隐私；宣传语存在过度承诺；模型输出可能形成情感依赖。
客户产品经理脸色越来越难看：“照你们这个标准，项目很难上线。”
林凡说：“不是难上线，是不能这样上线。”
“用户有需求，我们只是提供工具。”
“用户有需求，不代表工具可以装成人。”
老周看了林凡一眼，没说话。
审核结论写得很明确：暂缓上线。必须增加危机识别扩展样本、真人介入流程、隐私最小化、数据删除入口、陪伴时长提醒、非真人身份提示，并禁止使用“永远陪着你”“比任何人都懂你”等宣传语。
客户很不高兴。
老板也不太高兴。他把林凡叫到办公室：“你们第一单伦理审核，就给客户打回去了？”
林凡说：“它不适合上线。”
老板说：“你要理解商业节奏。审核不是否决一切。”
“我没有否决一切，我否决的是没有人工危机通道的心理陪伴。”
老板靠在椅背上，沉默了一会儿：“你知道这项目利润不错吧？”
“知道。”
“那你也知道公司现在需要利润。”
林凡点头。
老板看着他：“你就不怕自己太理想？”
林凡想了想：“怕。但我更怕它上线后，有人在凌晨对它说最后一句话，而我们只能在日志里看见。”
这句话说出口后，办公室里安静得像空调都调低了声音。
老板没有再逼，只说：“你出去吧。”
林凡回到工位，手心都是汗。他不是不怕。他怕客户撤单，怕老板不满，怕自己被贴上“不配合业务”的标签。伦理审核听起来很高尚，实际落到公司里，就是在每一个“差不多能上线”的节点，说一句“再等等”。
说这句话的人，很容易不讨喜。
张磊晚上来找他，带了两份煎饼。
“听说你今天拦了个大项目。”
林凡咬了一口煎饼：“消息传这么快？”
“职场八卦比模型推理快多了。”张磊坐下，“你后悔吗？”
林凡说：“不知道。”
“这不像你。你平时嘴挺硬。”
“嘴硬和心里不慌是两回事。”
张磊想了想，说：“我以前买课，要是有人在付款前硬拦我，我肯定骂他。但后来我会感谢他。虽然当时不会。”
林凡看他：“你这是安慰？”
“是。可能不高级，但人工。”
林凡笑了一下。
何苗把审核表看完，给了一个建议：“你们需要把审核标准公开给客户。不要每次像临场挑刺。标准提前说清楚，客户要么按标准设计，要么别接。”
老周听见，点头：“对。伦理不能靠个人勇气。靠个人勇气，迟早累死个人。”
于是林凡和法务小陈整理了第一版《AI 高风险场景上线审核清单》。里面列了十类必须审查的问题：数据来源、授权范围、敏感人群、输出边界、人工复核、危机响应、日志追溯、用户申诉、宣传限制、停机机制。
清单发到公司群后，有人私聊林凡：
你这东西会不会让项目变慢？
林凡回：
会。
对方发来一个裂开的表情。
林凡又回：
但能让道歉变少。
那人没再说话。
一周后，心理陪伴项目按要求改了方案。客户砍掉了“永远陪你”的宣传语，增加真人值班和危机转接，聊天记录默认不用于训练，用户可以一键删除。项目利润低了一些，但仍然推进。
老板在会上说：“以后类似项目，先过审核。”
他说得很平静，像这本来就是他的英明决策。
老周在桌下给林凡发消息：看见没，责任最后都要包装成流程，才活得久。
林凡回：那个人呢？
老周：人负责把流程从纸上拽到地上。
晚上，云启未来白板写：
伦理不是口号，是上线前那个不讨喜的问题。
张磊写：
别把避难所装修成聊天框。
何苗写：
边界提前写，比事故后道歉便宜。
林凡最后写：
不能只靠好人硬扛，要让好问题变成流程。
他把审核清单打印了一份，夹进黑色笔记本。
纸张很薄。
但至少，它能挡住一点风。
老板说这话时，语气像在宣布公司新增了一个高级部门：“我们要建立 AI 伦理审核机制，体现企业责任，提升客户信任。”
林凡坐在会议室后排，心里立刻翻译：客户开始问责了，公司需要一个听起来不会出事的词。
项目经理把文件发下来。审核小组暂定三人：老周、林凡、法务小陈。职责包括对高风险 AI 项目做上线前评估，审查数据来源、用户授权、输出边界、人工复核机制和应急预案。
张磊听说后，第一反应：“你升官了？”
林凡说：“没有。”
“加薪了？”
“也没有。”
“那为什么叫伦理审核？”
“因为叫背锅预备役不好听。”
老周倒不这么看。他把审核表拍在林凡桌上：“别嫌名字虚。名字虚，事情可以做实。”
第一份送审项目，是一个“智能心理陪伴助手”。客户是一家内容平台，想给用户提供 24 小时聊天陪伴，主打缓解孤独、情绪支持和轻咨询。ppt 做得非常柔软，浅蓝色背景，圆角气泡，配图是年轻人抱着膝盖看窗外。
林凡看着 ppt，想起凌晨那个问“如果我消失了”的用户，后背有点紧。
客户产品经理介绍：“我们不做医疗，只做陪伴。AI 会倾听用户，给出积极回应，必要时建议寻求专业帮助。”
林凡问：“怎么判断必要时？”
产品经理切到下一页：“我们有关键词识别，比如自伤、自杀、消失、活不下去等。”
老周问：“用户如果不说关键词，只说‘我累了，不想醒’，识别吗？”
产品经理顿了一下：“这个可以优化。”
法务小陈问：“有真人干预流程吗？”
产品经理说：“我们计划先用 AI 自动安抚，降低人工成本。人工客服只处理投诉。”
林凡抬头：“情绪危机不是投诉。”
会议室安静。
客户解释：“我们的定位不是危机干预，如果做太重，项目成本会非常高。”
老周说：“那就别宣传 24 小时陪伴。你不能把门开得像避难所，里面只放一个复读机。”
这句话有点硬。项目经理在旁边又开始眼神报警。
林凡翻审核表，逐项勾问题：高风险语句识别不足；缺少人工升级通道；未明确数据保存周期；用户聊天内容可能涉及高度隐私；宣传语存在过度承诺；模型输出可能形成情感依赖。
客户产品经理脸色越来越难看：“照你们这个标准，项目很难上线。”
林凡说：“不是难上线，是不能这样上线。”
“用户有需求，我们只是提供工具。”
“用户有需求，不代表工具可以装成人。”
老周看了林凡一眼，没说话。
审核结论写得很明确：暂缓上线。必须增加危机识别扩展样本、真人介入流程、隐私最小化、数据删除入口、陪伴时长提醒、非真人身份提示，并禁止使用“永远陪着你”“比任何人都懂你”等宣传语。
客户很不高兴。
老板也不太高兴。他把林凡叫到办公室：“你们第一单伦理审核，就给客户打回去了？”
林凡说：“它不适合上线。”
老板说：“你要理解商业节奏。审核不是否决一切。”
“我没有否决一切，我否决的是没有人工危机通道的心理陪伴。”
老板靠在椅背上，沉默了一会儿：“你知道这项目利润不错吧？”
“知道。”
“那你也知道公司现在需要利润。”
林凡点头。
老板看着他：“你就不怕自己太理想？”
林凡想了想：“怕。但我更怕它上线后，有人在凌晨对它说最后一句话，而我们只能在日志里看见。”
这句话说出口后，办公室里安静得像空调都调低了声音。
老板没有再逼，只说：“你出去吧。”
林凡回到工位，手心都是汗。他不是不怕。他怕客户撤单，怕老板不满，怕自己被贴上“不配合业务”的标签。伦理审核听起来很高尚，实际落到公司里，就是在每一个“差不多能上线”的节点，说一句“再等等”。
说这句话的人，很容易不讨喜。
张磊晚上来找他，带了两份煎饼。
“听说你今天拦了个大项目。”
林凡咬了一口煎饼：“消息传这么快？”
“职场八卦比模型推理快多了。”张磊坐下，“你后悔吗？”
林凡说：“不知道。”
“这不像你。你平时嘴挺硬。”
“嘴硬和心里不慌是两回事。”
张磊想了想，说：“我以前买课，要是有人在付款前硬拦我，我肯定骂他。但后来我会感谢他。虽然当时不会。”
林凡看他：“你这是安慰？”
“是。可能不高级，但人工。”
林凡笑了一下。
何苗把审核表看完，给了一个建议：“你们需要把审核标准公开给客户。不要每次像临场挑刺。标准提前说清楚，客户要么按标准设计，要么别接。”
老周听见，点头：“对。伦理不能靠个人勇气。靠个人勇气，迟早累死个人。”
于是林凡和法务小陈整理了第一版《AI 高风险场景上线审核清单》。里面列了十类必须审查的问题：数据来源、授权范围、敏感人群、输出边界、人工复核、危机响应、日志追溯、用户申诉、宣传限制、停机机制。
清单发到公司群后，有人私聊林凡：
你这东西会不会让项目变慢？
林凡回：
会。
对方发来一个裂开的表情。
林凡又回：
但能让道歉变少。
那人没再说话。
一周后，心理陪伴项目按要求改了方案。客户砍掉了“永远陪你”的宣传语，增加真人值班和危机转接，聊天记录默认不用于训练，用户可以一键删除。项目利润低了一些，但仍然推进。
老板在会上说：“以后类似项目，先过审核。”
他说得很平静，像这本来就是他的英明决策。
老周在桌下给林凡发消息：看见没，责任最后都要包装成流程，才活得久。
林凡回：那个人呢？
老周：人负责把流程从纸上拽到地上。
晚上，云启未来白板写：
伦理不是口号，是上线前那个不讨喜的问题。
张磊写：
别把避难所装修成聊天框。
何苗写：
边界提前写，比事故后道歉便宜。
林凡最后写：
不能只靠好人硬扛，要让好问题变成流程。
他把审核清单打印了一份，夹进黑色笔记本。
纸张很薄。
但至少，它能挡住一点风。