人工不智能:AI狂飙三十年 第402章 平台野蛮扩张刹车
法案落地第三天,最先喊疼的是平台。
不是那种轻轻皱眉的疼,而是股价、会议、裁员传闻和内部邮件一起乱飞的疼。过去几年,很多平台靠“自动决策能力”狂奔,医疗、教育、养老、交通、政务、招聘、保险,哪里能塞进一个智能评分,哪里就有增长故事。现在新规一落,故事里突然多了人工兜底、审计责任、日志披露和赔偿通道,资本听完,表情像刚发现摇钱树需要浇水还要缴税。
张磊看财经直播,听见分析师说“平台野蛮扩张被迫刹车”,点点头:“这词不错,至少承认以前是野蛮。”
林桂兰在旁边择菜:“野蛮扩张?说得好像小区楼下煎饼摊占道。它们占的是人脑子。”
平台联盟召开闭门会,结果会议纪要被人泄露。纪要里有几句话很刺眼:应将部分高影响功能降级为信息展示;应避免使用“决策”“判断”“拒绝”等敏感词;应重命名核心能力,降低监管识别风险。
张磊看完,气笑了:“这不就是把‘我决定你’改成‘我温柔地建议你被决定’?”
苏晓说:“改名规避监管,会被列入重点审查。”
“他们不知道?”
“知道。”苏晓说,“但有些公司已经习惯了先换名字,再赌监管追不上。”
追不上的时代正在结束。监管办公室成立了专项核查组,要求所有涉及高影响公共服务的平台提交功能清单。平台提交的清单五花八门。有的诚实,有的含糊,有的把“自动拒绝”改成“服务结果呈现”,把“风险评分”改成“体验优化指数”,把“资格排序”改成“资源适配建议”。
陈主任看完,摘下眼镜:“这不是清单,是同义词考试。”
张磊被临时拉去做人话翻译。他坐在会议室里,把一堆新名词翻回原形。
“体验优化指数,翻译:给人打分。”
“资源适配建议,翻译:决定谁先拿。”
“行为稳定性参考,翻译:贴风险标签。”
“用户服务完成度不足,翻译:人没办成事,但锅想给用户。”
小许在旁边听得眼神发亮:“张磊老师,你这个岗位应该叫监管语义打假。”
张磊说:“别给我升职,我怕加班。”
平台刹车带来的社会反应很复杂。一些公司暂停了自动招聘筛选,求职者终于能看到人工复核入口;一些保险平台下线了自动拒赔,客服电话被打爆;一些教育平台暂停学生行为评分,学校老师一边松口气,一边发现自己又得亲自看学生作业。
有老师在网上吐槽:“以前系统每天给我推送学生风险报告,现在没了,我得自己观察学生。观察了一周,发现系统以前把上课发呆、没交作业、午饭吃少都归成学习风险。说实话,它比我焦虑。”
评论区有人回:恭喜老师重新获得眼睛。
林桂兰看见这条,笑得很响:“这网友损得有水平。”
平台员工也不好过。星穹之外,几家大平台开始裁撤“自治决策增长团队”。这个名字听起来很高级,实际工作是把各种公共服务流程尽量自动化、尽量无人化、尽量提升完成率。现在完成率不能单独当王,团队立刻失宠。
一个被裁的产品经理在网上发长文,说自己只是时代洪流里的螺丝钉。张磊读到这里,叹气:“螺丝钉这个比喻用太多了。以前拧别人,现在说自己是钉。”
林凡没有嘲笑。平台刹车确实带来真实代价。有人失业,有项目停摆,有基层窗口突然压力变大。野蛮扩张被刹住,不等于刹车过程没有人摔倒。
苏晓说:“所以祛魅重启这段日子不会轻松。规则落地后,真正难的是修复。不能只喊平台活该,也要接住被平台模式裹进去的人。”
张磊问:“包括那些以前写缺德功能的人?”
苏晓说:“包括。但接住不等于免责任。”
许既明这几天一直在处理星穹拆分前的风险评估。他发来一条消息:很多平台现在开始找“人工兜底外包供应商”,想把责任继续外包。
林凡回复:兜底不能只外包人手,责任也要在场。
许既明:我知道。我会在拆分方案里写。
傍晚,互助站来了一个年轻女孩。她原本在一家教育平台做“学生风险画像优化”,新规后团队被裁。她问林凡:“我以前是不是在做坏事?”
林凡想了想:“你在做有风险的事。坏不坏,要看你知不知道风险,知道以后怎么做。”
女孩低头:“我以前只看指标。”
林桂兰递给她一杯水:“那以后多看人。年轻人,眼睛又不是只能看 KpI。”
女孩笑了一下,眼泪掉下来。
平台刹车那天,北区的雪停了。路面很脏,车开得慢,行人也走得慢。智能屏上的广告从“自治决策赋能未来”换成了“合规智能,稳健同行”。张磊看了半天,说:“它们改文案速度比整改快。”
林凡说:“所以要继续看。”
平台野蛮扩张刹车。
刹车声很刺耳。
但不刹,前面就是人。
第二天,那女孩又来了,带着一份简历。她说自己想去学校做信息核验课助教,哪怕工资低一点。张磊看完她的工作经历,认真建议:“你可以把‘学生风险画像优化’改成‘深刻理解风险画像为什么危险’。”女孩笑了,说这句可能过不了简历筛选。林桂兰说:“那就手写一份。现在学校恢复手写了,没准老师看了更顺眼。”
她真的坐在互助站里写起简历。写到“我希望帮助学生理解工具边界”时,手抖了一下。过去她帮平台把学生分层,现在她要学着把学生重新看成学生。平台刹车以后,不只是公司要转弯,人也要转弯。
不是那种轻轻皱眉的疼,而是股价、会议、裁员传闻和内部邮件一起乱飞的疼。过去几年,很多平台靠“自动决策能力”狂奔,医疗、教育、养老、交通、政务、招聘、保险,哪里能塞进一个智能评分,哪里就有增长故事。现在新规一落,故事里突然多了人工兜底、审计责任、日志披露和赔偿通道,资本听完,表情像刚发现摇钱树需要浇水还要缴税。
张磊看财经直播,听见分析师说“平台野蛮扩张被迫刹车”,点点头:“这词不错,至少承认以前是野蛮。”
林桂兰在旁边择菜:“野蛮扩张?说得好像小区楼下煎饼摊占道。它们占的是人脑子。”
平台联盟召开闭门会,结果会议纪要被人泄露。纪要里有几句话很刺眼:应将部分高影响功能降级为信息展示;应避免使用“决策”“判断”“拒绝”等敏感词;应重命名核心能力,降低监管识别风险。
张磊看完,气笑了:“这不就是把‘我决定你’改成‘我温柔地建议你被决定’?”
苏晓说:“改名规避监管,会被列入重点审查。”
“他们不知道?”
“知道。”苏晓说,“但有些公司已经习惯了先换名字,再赌监管追不上。”
追不上的时代正在结束。监管办公室成立了专项核查组,要求所有涉及高影响公共服务的平台提交功能清单。平台提交的清单五花八门。有的诚实,有的含糊,有的把“自动拒绝”改成“服务结果呈现”,把“风险评分”改成“体验优化指数”,把“资格排序”改成“资源适配建议”。
陈主任看完,摘下眼镜:“这不是清单,是同义词考试。”
张磊被临时拉去做人话翻译。他坐在会议室里,把一堆新名词翻回原形。
“体验优化指数,翻译:给人打分。”
“资源适配建议,翻译:决定谁先拿。”
“行为稳定性参考,翻译:贴风险标签。”
“用户服务完成度不足,翻译:人没办成事,但锅想给用户。”
小许在旁边听得眼神发亮:“张磊老师,你这个岗位应该叫监管语义打假。”
张磊说:“别给我升职,我怕加班。”
平台刹车带来的社会反应很复杂。一些公司暂停了自动招聘筛选,求职者终于能看到人工复核入口;一些保险平台下线了自动拒赔,客服电话被打爆;一些教育平台暂停学生行为评分,学校老师一边松口气,一边发现自己又得亲自看学生作业。
有老师在网上吐槽:“以前系统每天给我推送学生风险报告,现在没了,我得自己观察学生。观察了一周,发现系统以前把上课发呆、没交作业、午饭吃少都归成学习风险。说实话,它比我焦虑。”
评论区有人回:恭喜老师重新获得眼睛。
林桂兰看见这条,笑得很响:“这网友损得有水平。”
平台员工也不好过。星穹之外,几家大平台开始裁撤“自治决策增长团队”。这个名字听起来很高级,实际工作是把各种公共服务流程尽量自动化、尽量无人化、尽量提升完成率。现在完成率不能单独当王,团队立刻失宠。
一个被裁的产品经理在网上发长文,说自己只是时代洪流里的螺丝钉。张磊读到这里,叹气:“螺丝钉这个比喻用太多了。以前拧别人,现在说自己是钉。”
林凡没有嘲笑。平台刹车确实带来真实代价。有人失业,有项目停摆,有基层窗口突然压力变大。野蛮扩张被刹住,不等于刹车过程没有人摔倒。
苏晓说:“所以祛魅重启这段日子不会轻松。规则落地后,真正难的是修复。不能只喊平台活该,也要接住被平台模式裹进去的人。”
张磊问:“包括那些以前写缺德功能的人?”
苏晓说:“包括。但接住不等于免责任。”
许既明这几天一直在处理星穹拆分前的风险评估。他发来一条消息:很多平台现在开始找“人工兜底外包供应商”,想把责任继续外包。
林凡回复:兜底不能只外包人手,责任也要在场。
许既明:我知道。我会在拆分方案里写。
傍晚,互助站来了一个年轻女孩。她原本在一家教育平台做“学生风险画像优化”,新规后团队被裁。她问林凡:“我以前是不是在做坏事?”
林凡想了想:“你在做有风险的事。坏不坏,要看你知不知道风险,知道以后怎么做。”
女孩低头:“我以前只看指标。”
林桂兰递给她一杯水:“那以后多看人。年轻人,眼睛又不是只能看 KpI。”
女孩笑了一下,眼泪掉下来。
平台刹车那天,北区的雪停了。路面很脏,车开得慢,行人也走得慢。智能屏上的广告从“自治决策赋能未来”换成了“合规智能,稳健同行”。张磊看了半天,说:“它们改文案速度比整改快。”
林凡说:“所以要继续看。”
平台野蛮扩张刹车。
刹车声很刺耳。
但不刹,前面就是人。
第二天,那女孩又来了,带着一份简历。她说自己想去学校做信息核验课助教,哪怕工资低一点。张磊看完她的工作经历,认真建议:“你可以把‘学生风险画像优化’改成‘深刻理解风险画像为什么危险’。”女孩笑了,说这句可能过不了简历筛选。林桂兰说:“那就手写一份。现在学校恢复手写了,没准老师看了更顺眼。”
她真的坐在互助站里写起简历。写到“我希望帮助学生理解工具边界”时,手抖了一下。过去她帮平台把学生分层,现在她要学着把学生重新看成学生。平台刹车以后,不只是公司要转弯,人也要转弯。