人工不智能：AI狂飙三十年 第34章 老周的黑箱警告
第二天，林凡把“小区语音诈骗复盘”做成了内部分享。
他本来只想写三页：事情经过、风险提示、预防方法。钱总看完初稿，觉得“有社会价值”，让市场部帮忙润色。市场部润完，标题变成《AI 语音安全时代：青橙数科用温度守护银发群体》。林凡看到“温度”两个字，脑子里立刻浮现林桂兰拿保温杯砸智能音箱的画面。
老周路过他工位，看了一眼 ppt。
“删。”
林凡很配合：“删哪个？”
“温度。”
“只删温度？”
“还有守护。”
“那标题剩什么？”
老周说：“小区语音诈骗复盘。”
林凡点头：“朴素得像派出所公告。”
“派出所公告能救人。”老周端着茶杯走了，“有些标题只能救 KpI。”
林凡把标题改回去。市场部同事隔空发来一个哭泣表情，说这么直白没有传播力。林凡回他：有些事传播力太强，容易先把责任传播没。
分享安排在下午两点，地点是青橙数科最大的会议室。说是最大，其实也就能挤三十来人。椅子不够，刘洋从茶水间搬来两个塑料凳，一个给王启，一个给自己。王启坐下后发现凳子矮半截，整个人像来旁听家长会的小学生。
钱总坐在前排，市场部、产品部、技术部都来了。公司最近接了几个 AI 语音和客服相关咨询，大家本来以为一场分享是顺便蹭热点，听完可以写公众号。没想到老周也来了，还坐在最后一排，手里拿着笔。
刘洋在小群里发：老周拿笔了，今天可能有人要被做题。
王启：我坐这么矮，能不能视为未成年免考？
林凡：不能。
分享开始后，林凡没有讲模型参数，也没有讲声纹合成原理。他先放了那段骗子语音，当然做了变声处理，又把王阿姨填写的假登记表结构画出来：小区群链接、亲属信息、陌生账号、紧急语音、收款账户。
他讲到“骗子真正利用的不是技术多强，而是亲人之间来不及确认的那几秒”时，会议室安静了一下。
钱总点头。
“这一点很好，可以放到对外材料里。”
老周在后排咳了一声。
钱总立刻补充：“当然，先内部消化。”
林凡继续讲。他把防范建议放出来：涉及转账必须回拨原号码，家庭暗号不能公开，社区登记要核实来源，平台应对新号批量加老人和异常收款做风险提示。
讲完后，市场部同事举手：“我们是不是可以做一个社区反诈 AI 助手？老人收到语音后转给助手，助手判断真假。”
产品经理许丹眼睛亮了：“这个有产品化空间。”
刘洋也跟着兴奋：“可以做多模态识别，语音、文本、账号行为一起分析。”
王启坐在矮凳上，小声说：“还能起名叫‘反诈小橙’。”
钱总显然已经看见新项目的影子。
“这个方向可以研究。我们不一定做得很复杂，先做 mVp。”
林凡刚想说话，老周把茶杯放到了桌上。
茶杯不响，但会议室瞬间像被按了暂停。
“你们准备怎么判断真假？”老周问。
产品经理许丹说：“可以调用声纹比对模型，结合语义风险判断。如果出现借钱、转账、别告诉别人等关键词，就给出风险提示。”
“提示什么？”
“比如：该语音疑似诈骗，请谨慎处理。”
“疑似的标准是什么？”
许丹停了一下：“模型评分超过阈值。”
“阈值怎么定？”
“根据测试集。”
“测试集从哪来？”
会议室开始降温。不是空调降温，是所有人发现老周不是提问，是在拆椅子。
刘洋试图救场：“可以先用公开数据，再做一批模拟诈骗语音。”
老周看向他：“公开数据代表谁？”
刘洋愣住。
“代表……常见样本？”
“常见到什么程度？普通话多，方言少；年轻人语音多，老人少；清晰录音多，菜市场背景音少。你拿一样的数据训练出来，遇到林桂兰和王阿姨一种场景，凭什么准？”
林凡坐在电脑旁边，忽然觉得老周这几句话像一把钝刀，不锋利，但每一下都切在筋上。
许丹皱眉：“那我们可以标注更多场景。”
“谁标？”
“外包标注团队。”
“标注标准谁写？”
“我们产品和技术一起写。”
“写错了谁负责？”
会议室又安静。
老周不是反对做产品。他的语气没有火药味，甚至有点平。但越平，越让人没法用热情糊弄过去。
钱总说：“老周，你的意思是，这个方向不能做？”
“能做。”老周说，“但不能拿‘黑箱’当免责牌。”
王启小声问刘洋：“黑箱不是技术词吗？”
刘洋更小声：“现在听起来像锅的别名。”
老周看见他们嘴动，但没点名。他站起来，走到白板前，拿起马克笔画了一个大方框，里面写“模型”。然后在方框左边写“数据”，右边写“结果”，上面写“业务规则”，下面写“人工复核”。
“很多人说 AI 是黑箱，好像只要把问题塞进去，结果出来不好，就能摊手说看不懂。”老周敲了敲白板，“看不懂模型内部每个参数，不等于看不懂整个系统。数据谁选的，规则谁写的，阈值谁定的，提示语谁审核的，出错后谁复核，这些都不是黑箱。”
林凡看着白板，心里冒出一句话：黑箱外面全是人。
老周继续说：“如果你们做反诈助手，它提示这条真诈骗为安全，老人被骗了，你们不能说模型判断失误就完了。如果它把孩子真实求助判成诈骗，耽误了事，你们也不能说宁可错杀。每一个错误都有代价，代价落在用户身上，不落在 ppt 上。”
市场部同事弱弱说：“那宣传上要怎么写？”
老周看他：“写它能提醒，不写它能判案。”
“可客户喜欢确定性。”
“客户喜欢的东西很多。”老周说，“还喜欢便宜、快、零风险、明天上线、后天出报表。你都给吗？”
会议室里有人笑了一下，又很快收住。
钱总摸摸鼻子。他最近确实在几个客户面前说过“我们的 AI 能实现风险闭环”，听起来高端，细想像一根绳子把责任绕没了。
“老周，你具体建议呢？”钱总问。
老周把白板分成三栏。
第一栏：能做。
第二栏：不能说。
第三栏：必须留人。
“能做的是风险提示、关键词提醒、陌生账号预警、转账前冷静倒计时、原号码回拨提示。不能说的是百分百识别、自动判断真假、替用户决定要不要转钱。必须留人的是社区、家属、平台客服和警方通道。”
林凡赶紧记。
老周又补了一句：“尤其给老人用的东西，不要搞一堆花哨按钮。按钮越多，骗子越开心。”
张磊听说这场分享后，远程发来消息：
张磊：让老周出道吧，反诈界嘴替。
林凡：他会把经纪人也复核一遍。
张磊：那算了，娱乐圈承受不住。
会议后半段，大家开始围绕“反诈小橙”讨论 mVp。名字被老周第一时间否掉，理由是听起来像橙子成精。最后暂定为“转账冷静提醒组件”，朴素得让市场部失去了一半生命力。
许丹提出一个方案：用户收到疑似借钱信息时，可以把文本或语音转发给组件，系统给出“低、中、高”三档风险提示，并强制展示三个确认步骤：回拨原号码、联系第二亲属、核对家庭暗号。
刘洋负责技术预研。他越写越兴奋，开始说可以接入声纹识别、号码信誉库、社交关系图谱。
老周在旁边说：“先别关系图谱。”
“为什么？”
“你为了防诈骗，把老人全家社交关系存一遍，骗子还没偷，平台先替他建库了。”
刘洋把“社交关系图谱”从白板上擦掉，动作非常虔诚。
王启提议加一个“一键报警”。民警联动暂时做不到，但可以提供本地报警指引和证据保存教程。这个被保留。
市场部同事坚持要做这句口号，大家争了十分钟。
“AI 帮你识破骗局。”
老周摇头。
“智能守护每一次转账。”
老周继续摇头。
“让诈骗无处遁形。”
老周看他的眼神像看一台又开始自信胡说的机器。
最后林凡说：“转钱前，先停一下。”
老周点头。
市场部同事悲痛地把这句写进方案，像亲手埋葬了自己的文案才华。
傍晚，林凡把白板内容整理成文档。钱总过来拍了拍他的肩。
“小林，今天这个会开得好。老周虽然讲话硬，但方向是对的。”
林凡说：“他不是硬，他是怕我们软。”
钱总愣了一下，笑了。
“你这话有点东西。可以写进你那个笔记本。”
林凡也笑。
“已经准备写了。”
下班前，老周走到他工位旁边，把一张纸放到桌上。纸上是老周手写的几行字，字很端正，像老派工程师画电路图。
“系统不是一个模型。
系统是数据、规则、界面、运营、责任和人。
出了事，别只盯着中间那个黑盒子。
很多锅，是人在盒子外面放进去的。”
林凡看完，抬头。
“周老师，这个我能写进内部文档吗？”
“能。”
“能写公众号吗？”
老周想了想：“别写得像我说了什么名言。”
“那写成事故提醒。”
“可以。”
老周准备走，又停住：“还有，别叫周老师。”
“那叫老周？”
“嗯。”
林凡点头。一个小小的称呼变化，像一句不正式但真实的认可。
晚上，云启未来三人小群开了个线上小会。何苗还在整理梁瑞课程侵权证据，听林凡讲完黑箱会议后，发来一句：
何苗：技术黑箱不可怕，可怕的是责任也黑箱。
张磊立刻回：何老师今日金句。
何苗：别叫老师。
张磊：好的，何总。
何苗：也别叫总。
张磊：那叫何苗。
何苗：嗯。
张磊私聊林凡：她是不是也认可我了？
林凡：她只是放弃纠正你。
张磊：成年人世界的认可真含蓄。
他们把云启未来白板又拍了一张。张磊在上面新增：
不要把黑箱当锅盖。
林凡补：
黑箱外面，必须有人签字。
何苗看完，说：“签字也可能甩锅。”
林凡又补一行：
签字的人，得真能负责。
这行写完，白板已经有点挤。张磊说再写下去，云启未来就要从工作室变成社区普法墙。林凡说普法墙至少比梁瑞背景板靠谱。何苗说你们俩先别得意，证据表格还有三十条没填。
张磊立刻装死。
林凡没有装。他打开表格，继续整理梁瑞课程里那些被拆成“爆款结构”的原创作品。一个又一个案例看下来，他忽然发现，所谓黑箱并不只在技术里。很多商业话术也是黑箱，把别人的劳动塞进去，把自己的利润吐出来，中间那段过程被包装成“方法论”。
夜里十一点，老周发来一条消息。
老周：今天的事，别只当反诈。
林凡：那当什么？
老周：当第一堂责任课。
林凡看着这几个字，手指在键盘上停了很久。
他翻开黑色笔记本，写下：
黑箱不是不知道，黑箱是有人不想说清楚。
又写：
技术不是神秘，神秘的是责任没人认。
写完，他把笔帽扣上。
窗外，江城的夜色浮着湿热的光。有人在小区群里练习家庭暗号，有人在会议室里设计冷静提醒，有人在直播间换个账号重新讲财富觉醒，也有人在白板前笨拙地把“能做什么”和“不能说什么”分开。
风口还在吹，吹过模型，吹过话术，吹过每一个想把责任藏起来的人。
林凡忽然觉得，老周那只茶杯可能不只是茶杯。
它像一个很旧的报警器。
哪里开始把人吹飘，它就在哪里轻轻一放。
他本来只想写三页：事情经过、风险提示、预防方法。钱总看完初稿，觉得“有社会价值”，让市场部帮忙润色。市场部润完，标题变成《AI 语音安全时代：青橙数科用温度守护银发群体》。林凡看到“温度”两个字，脑子里立刻浮现林桂兰拿保温杯砸智能音箱的画面。
老周路过他工位，看了一眼 ppt。
“删。”
林凡很配合：“删哪个？”
“温度。”
“只删温度？”
“还有守护。”
“那标题剩什么？”
老周说：“小区语音诈骗复盘。”
林凡点头：“朴素得像派出所公告。”
“派出所公告能救人。”老周端着茶杯走了，“有些标题只能救 KpI。”
林凡把标题改回去。市场部同事隔空发来一个哭泣表情，说这么直白没有传播力。林凡回他：有些事传播力太强，容易先把责任传播没。
分享安排在下午两点，地点是青橙数科最大的会议室。说是最大，其实也就能挤三十来人。椅子不够，刘洋从茶水间搬来两个塑料凳，一个给王启，一个给自己。王启坐下后发现凳子矮半截，整个人像来旁听家长会的小学生。
钱总坐在前排，市场部、产品部、技术部都来了。公司最近接了几个 AI 语音和客服相关咨询，大家本来以为一场分享是顺便蹭热点，听完可以写公众号。没想到老周也来了，还坐在最后一排，手里拿着笔。
刘洋在小群里发：老周拿笔了，今天可能有人要被做题。
王启：我坐这么矮，能不能视为未成年免考？
林凡：不能。
分享开始后，林凡没有讲模型参数，也没有讲声纹合成原理。他先放了那段骗子语音，当然做了变声处理，又把王阿姨填写的假登记表结构画出来：小区群链接、亲属信息、陌生账号、紧急语音、收款账户。
他讲到“骗子真正利用的不是技术多强，而是亲人之间来不及确认的那几秒”时，会议室安静了一下。
钱总点头。
“这一点很好，可以放到对外材料里。”
老周在后排咳了一声。
钱总立刻补充：“当然，先内部消化。”
林凡继续讲。他把防范建议放出来：涉及转账必须回拨原号码，家庭暗号不能公开，社区登记要核实来源，平台应对新号批量加老人和异常收款做风险提示。
讲完后，市场部同事举手：“我们是不是可以做一个社区反诈 AI 助手？老人收到语音后转给助手，助手判断真假。”
产品经理许丹眼睛亮了：“这个有产品化空间。”
刘洋也跟着兴奋：“可以做多模态识别，语音、文本、账号行为一起分析。”
王启坐在矮凳上，小声说：“还能起名叫‘反诈小橙’。”
钱总显然已经看见新项目的影子。
“这个方向可以研究。我们不一定做得很复杂，先做 mVp。”
林凡刚想说话，老周把茶杯放到了桌上。
茶杯不响，但会议室瞬间像被按了暂停。
“你们准备怎么判断真假？”老周问。
产品经理许丹说：“可以调用声纹比对模型，结合语义风险判断。如果出现借钱、转账、别告诉别人等关键词，就给出风险提示。”
“提示什么？”
“比如：该语音疑似诈骗，请谨慎处理。”
“疑似的标准是什么？”
许丹停了一下：“模型评分超过阈值。”
“阈值怎么定？”
“根据测试集。”
“测试集从哪来？”
会议室开始降温。不是空调降温，是所有人发现老周不是提问，是在拆椅子。
刘洋试图救场：“可以先用公开数据，再做一批模拟诈骗语音。”
老周看向他：“公开数据代表谁？”
刘洋愣住。
“代表……常见样本？”
“常见到什么程度？普通话多，方言少；年轻人语音多，老人少；清晰录音多，菜市场背景音少。你拿一样的数据训练出来，遇到林桂兰和王阿姨一种场景，凭什么准？”
林凡坐在电脑旁边，忽然觉得老周这几句话像一把钝刀，不锋利，但每一下都切在筋上。
许丹皱眉：“那我们可以标注更多场景。”
“谁标？”
“外包标注团队。”
“标注标准谁写？”
“我们产品和技术一起写。”
“写错了谁负责？”
会议室又安静。
老周不是反对做产品。他的语气没有火药味，甚至有点平。但越平，越让人没法用热情糊弄过去。
钱总说：“老周，你的意思是，这个方向不能做？”
“能做。”老周说，“但不能拿‘黑箱’当免责牌。”
王启小声问刘洋：“黑箱不是技术词吗？”
刘洋更小声：“现在听起来像锅的别名。”
老周看见他们嘴动，但没点名。他站起来，走到白板前，拿起马克笔画了一个大方框，里面写“模型”。然后在方框左边写“数据”，右边写“结果”，上面写“业务规则”，下面写“人工复核”。
“很多人说 AI 是黑箱，好像只要把问题塞进去，结果出来不好，就能摊手说看不懂。”老周敲了敲白板，“看不懂模型内部每个参数，不等于看不懂整个系统。数据谁选的，规则谁写的，阈值谁定的，提示语谁审核的，出错后谁复核，这些都不是黑箱。”
林凡看着白板，心里冒出一句话：黑箱外面全是人。
老周继续说：“如果你们做反诈助手，它提示这条真诈骗为安全，老人被骗了，你们不能说模型判断失误就完了。如果它把孩子真实求助判成诈骗，耽误了事，你们也不能说宁可错杀。每一个错误都有代价，代价落在用户身上，不落在 ppt 上。”
市场部同事弱弱说：“那宣传上要怎么写？”
老周看他：“写它能提醒，不写它能判案。”
“可客户喜欢确定性。”
“客户喜欢的东西很多。”老周说，“还喜欢便宜、快、零风险、明天上线、后天出报表。你都给吗？”
会议室里有人笑了一下，又很快收住。
钱总摸摸鼻子。他最近确实在几个客户面前说过“我们的 AI 能实现风险闭环”，听起来高端，细想像一根绳子把责任绕没了。
“老周，你具体建议呢？”钱总问。
老周把白板分成三栏。
第一栏：能做。
第二栏：不能说。
第三栏：必须留人。
“能做的是风险提示、关键词提醒、陌生账号预警、转账前冷静倒计时、原号码回拨提示。不能说的是百分百识别、自动判断真假、替用户决定要不要转钱。必须留人的是社区、家属、平台客服和警方通道。”
林凡赶紧记。
老周又补了一句：“尤其给老人用的东西，不要搞一堆花哨按钮。按钮越多，骗子越开心。”
张磊听说这场分享后，远程发来消息：
张磊：让老周出道吧，反诈界嘴替。
林凡：他会把经纪人也复核一遍。
张磊：那算了，娱乐圈承受不住。
会议后半段，大家开始围绕“反诈小橙”讨论 mVp。名字被老周第一时间否掉，理由是听起来像橙子成精。最后暂定为“转账冷静提醒组件”，朴素得让市场部失去了一半生命力。
许丹提出一个方案：用户收到疑似借钱信息时，可以把文本或语音转发给组件，系统给出“低、中、高”三档风险提示，并强制展示三个确认步骤：回拨原号码、联系第二亲属、核对家庭暗号。
刘洋负责技术预研。他越写越兴奋，开始说可以接入声纹识别、号码信誉库、社交关系图谱。
老周在旁边说：“先别关系图谱。”
“为什么？”
“你为了防诈骗，把老人全家社交关系存一遍，骗子还没偷，平台先替他建库了。”
刘洋把“社交关系图谱”从白板上擦掉，动作非常虔诚。
王启提议加一个“一键报警”。民警联动暂时做不到，但可以提供本地报警指引和证据保存教程。这个被保留。
市场部同事坚持要做这句口号，大家争了十分钟。
“AI 帮你识破骗局。”
老周摇头。
“智能守护每一次转账。”
老周继续摇头。
“让诈骗无处遁形。”
老周看他的眼神像看一台又开始自信胡说的机器。
最后林凡说：“转钱前，先停一下。”
老周点头。
市场部同事悲痛地把这句写进方案，像亲手埋葬了自己的文案才华。
傍晚，林凡把白板内容整理成文档。钱总过来拍了拍他的肩。
“小林，今天这个会开得好。老周虽然讲话硬，但方向是对的。”
林凡说：“他不是硬，他是怕我们软。”
钱总愣了一下，笑了。
“你这话有点东西。可以写进你那个笔记本。”
林凡也笑。
“已经准备写了。”
下班前，老周走到他工位旁边，把一张纸放到桌上。纸上是老周手写的几行字，字很端正，像老派工程师画电路图。
“系统不是一个模型。
系统是数据、规则、界面、运营、责任和人。
出了事，别只盯着中间那个黑盒子。
很多锅，是人在盒子外面放进去的。”
林凡看完，抬头。
“周老师，这个我能写进内部文档吗？”
“能。”
“能写公众号吗？”
老周想了想：“别写得像我说了什么名言。”
“那写成事故提醒。”
“可以。”
老周准备走，又停住：“还有，别叫周老师。”
“那叫老周？”
“嗯。”
林凡点头。一个小小的称呼变化，像一句不正式但真实的认可。
晚上，云启未来三人小群开了个线上小会。何苗还在整理梁瑞课程侵权证据，听林凡讲完黑箱会议后，发来一句：
何苗：技术黑箱不可怕，可怕的是责任也黑箱。
张磊立刻回：何老师今日金句。
何苗：别叫老师。
张磊：好的，何总。
何苗：也别叫总。
张磊：那叫何苗。
何苗：嗯。
张磊私聊林凡：她是不是也认可我了？
林凡：她只是放弃纠正你。
张磊：成年人世界的认可真含蓄。
他们把云启未来白板又拍了一张。张磊在上面新增：
不要把黑箱当锅盖。
林凡补：
黑箱外面，必须有人签字。
何苗看完，说：“签字也可能甩锅。”
林凡又补一行：
签字的人，得真能负责。
这行写完，白板已经有点挤。张磊说再写下去，云启未来就要从工作室变成社区普法墙。林凡说普法墙至少比梁瑞背景板靠谱。何苗说你们俩先别得意，证据表格还有三十条没填。
张磊立刻装死。
林凡没有装。他打开表格，继续整理梁瑞课程里那些被拆成“爆款结构”的原创作品。一个又一个案例看下来，他忽然发现，所谓黑箱并不只在技术里。很多商业话术也是黑箱，把别人的劳动塞进去，把自己的利润吐出来，中间那段过程被包装成“方法论”。
夜里十一点，老周发来一条消息。
老周：今天的事，别只当反诈。
林凡：那当什么？
老周：当第一堂责任课。
林凡看着这几个字，手指在键盘上停了很久。
他翻开黑色笔记本，写下：
黑箱不是不知道，黑箱是有人不想说清楚。
又写：
技术不是神秘，神秘的是责任没人认。
写完，他把笔帽扣上。
窗外，江城的夜色浮着湿热的光。有人在小区群里练习家庭暗号，有人在会议室里设计冷静提醒，有人在直播间换个账号重新讲财富觉醒，也有人在白板前笨拙地把“能做什么”和“不能说什么”分开。
风口还在吹，吹过模型，吹过话术，吹过每一个想把责任藏起来的人。
林凡忽然觉得，老周那只茶杯可能不只是茶杯。
它像一个很旧的报警器。
哪里开始把人吹飘，它就在哪里轻轻一放。