人工不智能：AI狂飙三十年 第63章 林凡救场反被甩锅
商户经营助手出事那天，林凡刚把午饭端到工位。
饭盒里是青橙数科食堂的番茄炒蛋。番茄少，蛋少，汤很多，像一份对番茄炒蛋进行过抽象表达的菜。林凡刚夹起一块看起来像蛋的东西，项目群就炸了。
客户经理连发三条：
“便利店项目出问题了。”
“促销建议推错了。”
“客户很急，所有人会议室。”
林凡放下筷子，心里一沉。
商户经营助手是第 59 章那个试点项目。系统给连锁便利店门店提供内部问答和促销建议。为了避免 AI 乱出主意，他们已经加了规则：临期食品、价格调整、会员优惠、合规处理必须引用内部规范，不能直接给结论。林凡以为这个项目至少不会在临期食品上摔第二次。
事实证明，项目很会寻找新的摔法。
事故发生在“节日组合推荐”功能。某门店店长询问：“明天社区有老人活动，适合推什么套餐？”系统根据门店库存、历史销量和活动关键词，建议推出“银发关怀套餐”：低糖饼干、无糖饮料、护眼湿巾、保温杯。听起来没问题。
问题是，它又建议搭配一款“助眠香薰贴”。
那款商品在内部规范里属于普通日用品，不能和老人健康活动绑定宣传，更不能暗示改善睡眠。系统没有直接说治疗，但推荐文案里写了一句：
“让长辈在活动后睡得更安心。”
门店店长直接把建议发到社区合作群，社区工作人员看到后立刻提醒：这个表述不合适，容易被理解成健康功效宣传。客户总部很紧张，要求青橙数科解释。
会议室里，钱总脸色不好。客户经理脸更白，因为他已经向客户夸过系统“合规可控”。刘洋调日志，许丹翻需求文档，王启打开测试记录。林凡看着那条推荐，胃口彻底没了。
“来源呢？”他问。
刘洋说：“系统引用了库存表、活动标签和商品基础信息，没有引用健康宣传规范。”
“为什么没触发红色规则？”
“因为商品分类是日用品，不是药品、保健品，也不是食品临期。”
林凡明白了。
规则把“健康功效宣传”绑在高风险商品上，却漏掉了普通商品在特定场景下被赋予健康暗示。助眠香薰贴本身可以卖，放进老人活动套餐里，再配上“睡得更安心”，就开始危险。
客户经理急道：“先别分析这么多，客户要回复。”
钱总看向林凡：“你来写。”
林凡没有争。他先让刘洋暂停节日组合推荐功能，再让客户经理通知客户撤回那条群消息，改发人工审核版活动方案。他自己写说明：系统推荐存在场景识别不足，已暂停相关功能；该文案未经人工确认，不应作为正式宣传；青橙数科将补充“普通商品健康暗示”规则，并提供人工复核清单。
许丹看完，说：“把责任写得太重了吧？”
林凡说：“轻了客户不会信。”
钱总皱眉，但没改。
救场很快见效。客户总部接受了说明，社区群里的消息也及时撤回，没有造成公开传播。门店店长虽然抱怨系统“害我差点挨批”，但事情没有扩大。
下午复盘会，锅开始出现。
客户经理先说：“这个文案是系统自动生成，但最后配置规则是项目负责人确认的。”
林凡抬头。
钱总看了一眼会议纪要，没说话。
刘洋说：“规则是三方评审过的，不是林凡一个人确认。”
客户经理急了：“我不是甩锅，我是说客户问责任归属，我们总要有个解释。”
王启小声说：“解释不是找个人。”
许丹也说：“这个问题属于场景规则缺口，不能简单说谁最后确认谁负责。”
客户经理摊手：“可客户不懂这些。他们只知道我们说过有人工审核。”
林凡心里那股熟悉的冷意又来了。
AI 生成错了，系统规则漏了，项目流程赶了，客户经理宣传夸了，最后“人工审核”四个字像一张椅子，被推到他身后，让他坐上去。
老周坐在后排，终于开口：
“人工审核是谁？”
客户经理说：“项目负责人。”
老周问：“项目负责人审核了每一条门店实时建议吗？”
“没有。”
“那就别这么写。”
会议室安静。
老周把日志投到屏幕上，指着流程说：“这里是规则配置，产品、技术、项目都签了。这里是客户开启自动建议，客户经理培训时没有强调必须人工确认。这里是门店店长直接转发，没有走总部审核。责任链是这样的，不是一根线吊在林凡脖子上。”
林凡低头看着桌面，心里松了一点，又有点难受。
钱总叹了口气。
“复盘按责任链写，不写个人背锅。客户那边我去解释。”
客户经理脸红：“我刚才不是那个意思。”
林凡说：“我知道。”
他其实不知道，也不想追究。人在压力下会找最近的出口，背锅也是一种出口。只是如果每次出口都通向最后救场的人，那以后谁还敢救？
晚上，林凡把这件事写进笔记：
救场的人，不能自动变成事故责任人。
又写：
人工兜底不是人工背锅。
云启未来群里，张磊听完气得不行。
“这不就是谁擦屁股谁承认自己拉的？”
何苗：“比喻难听，但准确。”
林凡笑了一下。
张磊说：“你以后救场前先录音。”
何苗：“留记录是对的。”
林凡点头。他想起老周白板上的“责任链”。那时候只是概念，这次变成了真实的会议室、真实的日志、真实的沉默和真实的锅。
第二天，青橙数科更新项目流程。所有 AI 自动建议上线前，必须明确：生成责任、审核责任、发布责任、客户使用责任。培训材料里加粗一行：
“系统建议不得未经人工确认直接对外发布。”
市场部同事说这句话太硬。
老周说：“硬点好，软了容易甩。”
云启未来白板新增：
人工兜底不是人工背锅。
张磊补：
谁按发送，谁也有份。
何苗写：
责任链不能在救场的人那里断掉。
林凡最后写：
能救场的人，更需要被保护。
夜里，他终于吃上了那份冷掉的番茄炒蛋。番茄已经更像汤，蛋也更像传说。林凡吃了两口，觉得味道一般，但能吃。
就像很多项目。
没有出大事，不代表没有问题。
只是有人在问题变成大事前，把它按住了。
饭盒里是青橙数科食堂的番茄炒蛋。番茄少，蛋少，汤很多，像一份对番茄炒蛋进行过抽象表达的菜。林凡刚夹起一块看起来像蛋的东西，项目群就炸了。
客户经理连发三条：
“便利店项目出问题了。”
“促销建议推错了。”
“客户很急，所有人会议室。”
林凡放下筷子，心里一沉。
商户经营助手是第 59 章那个试点项目。系统给连锁便利店门店提供内部问答和促销建议。为了避免 AI 乱出主意，他们已经加了规则：临期食品、价格调整、会员优惠、合规处理必须引用内部规范，不能直接给结论。林凡以为这个项目至少不会在临期食品上摔第二次。
事实证明，项目很会寻找新的摔法。
事故发生在“节日组合推荐”功能。某门店店长询问：“明天社区有老人活动，适合推什么套餐？”系统根据门店库存、历史销量和活动关键词，建议推出“银发关怀套餐”：低糖饼干、无糖饮料、护眼湿巾、保温杯。听起来没问题。
问题是，它又建议搭配一款“助眠香薰贴”。
那款商品在内部规范里属于普通日用品，不能和老人健康活动绑定宣传，更不能暗示改善睡眠。系统没有直接说治疗，但推荐文案里写了一句：
“让长辈在活动后睡得更安心。”
门店店长直接把建议发到社区合作群，社区工作人员看到后立刻提醒：这个表述不合适，容易被理解成健康功效宣传。客户总部很紧张，要求青橙数科解释。
会议室里，钱总脸色不好。客户经理脸更白，因为他已经向客户夸过系统“合规可控”。刘洋调日志，许丹翻需求文档，王启打开测试记录。林凡看着那条推荐，胃口彻底没了。
“来源呢？”他问。
刘洋说：“系统引用了库存表、活动标签和商品基础信息，没有引用健康宣传规范。”
“为什么没触发红色规则？”
“因为商品分类是日用品，不是药品、保健品，也不是食品临期。”
林凡明白了。
规则把“健康功效宣传”绑在高风险商品上，却漏掉了普通商品在特定场景下被赋予健康暗示。助眠香薰贴本身可以卖，放进老人活动套餐里，再配上“睡得更安心”，就开始危险。
客户经理急道：“先别分析这么多，客户要回复。”
钱总看向林凡：“你来写。”
林凡没有争。他先让刘洋暂停节日组合推荐功能，再让客户经理通知客户撤回那条群消息，改发人工审核版活动方案。他自己写说明：系统推荐存在场景识别不足，已暂停相关功能；该文案未经人工确认，不应作为正式宣传；青橙数科将补充“普通商品健康暗示”规则，并提供人工复核清单。
许丹看完，说：“把责任写得太重了吧？”
林凡说：“轻了客户不会信。”
钱总皱眉，但没改。
救场很快见效。客户总部接受了说明，社区群里的消息也及时撤回，没有造成公开传播。门店店长虽然抱怨系统“害我差点挨批”，但事情没有扩大。
下午复盘会，锅开始出现。
客户经理先说：“这个文案是系统自动生成，但最后配置规则是项目负责人确认的。”
林凡抬头。
钱总看了一眼会议纪要，没说话。
刘洋说：“规则是三方评审过的，不是林凡一个人确认。”
客户经理急了：“我不是甩锅，我是说客户问责任归属，我们总要有个解释。”
王启小声说：“解释不是找个人。”
许丹也说：“这个问题属于场景规则缺口，不能简单说谁最后确认谁负责。”
客户经理摊手：“可客户不懂这些。他们只知道我们说过有人工审核。”
林凡心里那股熟悉的冷意又来了。
AI 生成错了，系统规则漏了，项目流程赶了，客户经理宣传夸了，最后“人工审核”四个字像一张椅子，被推到他身后，让他坐上去。
老周坐在后排，终于开口：
“人工审核是谁？”
客户经理说：“项目负责人。”
老周问：“项目负责人审核了每一条门店实时建议吗？”
“没有。”
“那就别这么写。”
会议室安静。
老周把日志投到屏幕上，指着流程说：“这里是规则配置，产品、技术、项目都签了。这里是客户开启自动建议，客户经理培训时没有强调必须人工确认。这里是门店店长直接转发，没有走总部审核。责任链是这样的，不是一根线吊在林凡脖子上。”
林凡低头看着桌面，心里松了一点，又有点难受。
钱总叹了口气。
“复盘按责任链写，不写个人背锅。客户那边我去解释。”
客户经理脸红：“我刚才不是那个意思。”
林凡说：“我知道。”
他其实不知道，也不想追究。人在压力下会找最近的出口，背锅也是一种出口。只是如果每次出口都通向最后救场的人，那以后谁还敢救？
晚上，林凡把这件事写进笔记：
救场的人，不能自动变成事故责任人。
又写：
人工兜底不是人工背锅。
云启未来群里，张磊听完气得不行。
“这不就是谁擦屁股谁承认自己拉的？”
何苗：“比喻难听，但准确。”
林凡笑了一下。
张磊说：“你以后救场前先录音。”
何苗：“留记录是对的。”
林凡点头。他想起老周白板上的“责任链”。那时候只是概念，这次变成了真实的会议室、真实的日志、真实的沉默和真实的锅。
第二天，青橙数科更新项目流程。所有 AI 自动建议上线前，必须明确：生成责任、审核责任、发布责任、客户使用责任。培训材料里加粗一行：
“系统建议不得未经人工确认直接对外发布。”
市场部同事说这句话太硬。
老周说：“硬点好，软了容易甩。”
云启未来白板新增：
人工兜底不是人工背锅。
张磊补：
谁按发送，谁也有份。
何苗写：
责任链不能在救场的人那里断掉。
林凡最后写：
能救场的人，更需要被保护。
夜里，他终于吃上了那份冷掉的番茄炒蛋。番茄已经更像汤，蛋也更像传说。林凡吃了两口，觉得味道一般，但能吃。
就像很多项目。
没有出大事，不代表没有问题。
只是有人在问题变成大事前，把它按住了。