人工不智能:AI狂飙三十年 第389章 系统被迫切回人工模式
热门推荐:
魂穿大宋皇叔,我成水浒总瓢把子
名义:汉大崛起,气晕老沙
以十岁之名,唤一场温柔
负鼎
镇天棺
联盟:从G2青训开始
红楼之捡君记
恶毒皇女不装了,开局纳三千美男
穿越云南虫谷:献王妃求生指南
四十八小时守夜结束后,监管办公室没有立刻解除人工状态。
相反,陈主任签发了临时命令:全市高影响公共系统进入分级人工模式,直至完成透明化审计和人工兜底重构。也就是说,系统可以继续提供建议,可以继续处理标准事务,但凡涉及生命安全、权利资格、风险标签、群体处置、解释申诉,必须默认人工优先。
张磊听完,第一反应是:“个算系统下岗吗?”
陆航说:“不算。它还干活,只是不能当老板。”
林桂兰点头:“个就对了。年轻人能干活,不能乱当家。”
系统切回人工模式的第一天,城市很不适应。
政务大厅排起了久违的队。队伍长得让人想起很多年前,大家还用纸号排队办事。一个年轻人站了十分钟就开始焦虑:“我已经三年没排过这种队了,我感觉自己文明等级下降。”
张磊在现场做人话引导:“别怕,排队是人类祖传分布式调度系统。缺点是慢,优点是你前面真有个人。”
旁边大爷听了点头:“小伙子这话有文化。就是队伍能不能再快点?”
医院也恢复了更多人工确认。护士站前多了几个临时志愿者,专门解释系统建议为什么需要人看。有人不满,说以前直接按屏幕走就行,现在还要问。导诊员耐心解释:“以前直接走,有人走丢过。”对方立刻闭嘴。
交通端更混乱。自动疏导建议降级后,几个路口由人工交警接管。系统提示最优配时,交警根据现场行人、电动车和一个突然掉链子的三轮车调整。系统没有见过那辆三轮车,或者说,见过也不知道它为什么横在路中央还被车主骂得像亲戚。
张磊看着现场视频说:“人工模式最大的优势,是能识别三轮车的尊严。”
苏晓说:“这句不要写进报告。”
系统切回人工模式带来的最大变化,是解释变多了。以前屏幕给结果,用户接受或申诉。现在窗口人员必须说明:为什么这条建议需要复核,为什么个项资格不能自动拒绝,为什么这个风险标签必须人工确认。解释让流程慢下来,也让很多被系统吓怕的人第一次知道,原来可以问。
当然,抱怨也很多。
有人说效率下降,有人说排队烦,有人说人工窗口态度不如系统温柔。林桂兰听到最后一条,回得很干脆:“系统温柔是因为它不用憋尿。”
窗口工作人员集体沉默,然后爆笑。
许既明在星穹内部推动“人工模式兼容改造”。这件事阻力极大。很多产品经理抱怨指标会变难看,运营部门担心成本增加,资本方担心市场继续下跌。许既明只说:“以前的指标少看了一半。现在不是变难看,是终于照到脸。”
小许把这句话发给张磊。
张磊评价:“许总最近人话浓度上升。”
兼容改造最先改的不是模型,而是后台页面。以前页面上最大的按钮叫“自动通过”“自动拒绝”“智能建议”,人工复核按钮藏在右侧二级菜单里,像一个不好意思见人的亲戚。小许把它挪到主界面,改名为“人工确认”。产品经理说这样会破坏界面简洁。小许说:“以前简洁,是因为把责任藏起来了。”这句话在星穹内部群里传了半天,最后被许既明点了个赞。
第二个改动是给每条高影响建议加“为什么不能自动”的提示。提示一开始写得很技术,什么阈值、置信度、跨域影响,窗口人员看了都想辞职。张磊远程帮忙改成人话版:影响人身移动、影响钱和资格、给人贴风险标签、让一群人改变行动,这些都要人看。小许说这个版本太土,林桂兰说土到能用。
系统切回人工模式后,极智会失去了最重要的叙事。他们本想证明人类离不开 AI,结果城市虽然慢了、乱了、排队了,却没有崩。人们重新抱怨窗口、吐槽排队、互相问路、帮老人取号、给陌生人看表格。那些场面不漂亮,不丝滑,不像未来宣传片,但活着。
切换当天最忙的是打印店。政务大厅旁边那家小打印店门口排起长队,老板一边打印材料一边崩溃:“我以为无纸化会让我失业,结果人工模式让我复活过度。”张磊去买夹子,听见老板说这话,安慰他:“您现在是城市韧性节点。”老板说:“别整虚的,A4纸涨价你们监管管不管?”
人工模式把很多被系统隐藏的基础需求重新暴露出来:纸、笔、复印、人工说明、等候椅、饮水机、厕所指示牌。陈主任看完现场反馈,沉默半天,说:“以前我们以为数字化替代了这些,其实只是暂时看不见。”
林凡在政务大厅站了一下午。一个老人不会取号,后面年轻人帮他按;一个母亲抱着孩子写材料,旁边大姐帮她扶包;一个外地务工人员听不懂申诉说明,窗口人员叫来志愿者慢慢解释。队伍里有人烦躁,有人插队被骂,有人手机响个不停,也有人把多拿的笔递给别人。
这不是天堂。
这是人间。
晚上,监管办公室汇总第一天数据。标准事项处理速度下降百分之十二,高影响事项人工复核率上升到百分之九十三,错误疏导、自动拒绝、无解释风险标签显着减少。投诉增加了,主要投诉排队慢、解释长、窗口人手不足。
张磊看完,说:“投诉内容终于变得像人类投诉了。”
苏晓点头:“排队慢可以增人。没人负责更难治。”
陈主任看着报告,沉默很久,说:“明天继续。”
林凡问:“人工模式会持续多久?”
“持续到系统学会不把人当成本之前。”
这句话不像行政命令,更像一种迟来的底线。
林凡把报告夹进黑色笔记本。老周如果还在,可能会说,别高兴,人工模式也会犯错,也会懒,也会推诿。人工不是神,人工只是能被问责。
他在本子上写:
系统被迫切回人工模式。
不是否定智能。
是把方向盘从黑箱里拿出来,放回能看见路的人手边。
相反,陈主任签发了临时命令:全市高影响公共系统进入分级人工模式,直至完成透明化审计和人工兜底重构。也就是说,系统可以继续提供建议,可以继续处理标准事务,但凡涉及生命安全、权利资格、风险标签、群体处置、解释申诉,必须默认人工优先。
张磊听完,第一反应是:“个算系统下岗吗?”
陆航说:“不算。它还干活,只是不能当老板。”
林桂兰点头:“个就对了。年轻人能干活,不能乱当家。”
系统切回人工模式的第一天,城市很不适应。
政务大厅排起了久违的队。队伍长得让人想起很多年前,大家还用纸号排队办事。一个年轻人站了十分钟就开始焦虑:“我已经三年没排过这种队了,我感觉自己文明等级下降。”
张磊在现场做人话引导:“别怕,排队是人类祖传分布式调度系统。缺点是慢,优点是你前面真有个人。”
旁边大爷听了点头:“小伙子这话有文化。就是队伍能不能再快点?”
医院也恢复了更多人工确认。护士站前多了几个临时志愿者,专门解释系统建议为什么需要人看。有人不满,说以前直接按屏幕走就行,现在还要问。导诊员耐心解释:“以前直接走,有人走丢过。”对方立刻闭嘴。
交通端更混乱。自动疏导建议降级后,几个路口由人工交警接管。系统提示最优配时,交警根据现场行人、电动车和一个突然掉链子的三轮车调整。系统没有见过那辆三轮车,或者说,见过也不知道它为什么横在路中央还被车主骂得像亲戚。
张磊看着现场视频说:“人工模式最大的优势,是能识别三轮车的尊严。”
苏晓说:“这句不要写进报告。”
系统切回人工模式带来的最大变化,是解释变多了。以前屏幕给结果,用户接受或申诉。现在窗口人员必须说明:为什么这条建议需要复核,为什么个项资格不能自动拒绝,为什么这个风险标签必须人工确认。解释让流程慢下来,也让很多被系统吓怕的人第一次知道,原来可以问。
当然,抱怨也很多。
有人说效率下降,有人说排队烦,有人说人工窗口态度不如系统温柔。林桂兰听到最后一条,回得很干脆:“系统温柔是因为它不用憋尿。”
窗口工作人员集体沉默,然后爆笑。
许既明在星穹内部推动“人工模式兼容改造”。这件事阻力极大。很多产品经理抱怨指标会变难看,运营部门担心成本增加,资本方担心市场继续下跌。许既明只说:“以前的指标少看了一半。现在不是变难看,是终于照到脸。”
小许把这句话发给张磊。
张磊评价:“许总最近人话浓度上升。”
兼容改造最先改的不是模型,而是后台页面。以前页面上最大的按钮叫“自动通过”“自动拒绝”“智能建议”,人工复核按钮藏在右侧二级菜单里,像一个不好意思见人的亲戚。小许把它挪到主界面,改名为“人工确认”。产品经理说这样会破坏界面简洁。小许说:“以前简洁,是因为把责任藏起来了。”这句话在星穹内部群里传了半天,最后被许既明点了个赞。
第二个改动是给每条高影响建议加“为什么不能自动”的提示。提示一开始写得很技术,什么阈值、置信度、跨域影响,窗口人员看了都想辞职。张磊远程帮忙改成人话版:影响人身移动、影响钱和资格、给人贴风险标签、让一群人改变行动,这些都要人看。小许说这个版本太土,林桂兰说土到能用。
系统切回人工模式后,极智会失去了最重要的叙事。他们本想证明人类离不开 AI,结果城市虽然慢了、乱了、排队了,却没有崩。人们重新抱怨窗口、吐槽排队、互相问路、帮老人取号、给陌生人看表格。那些场面不漂亮,不丝滑,不像未来宣传片,但活着。
切换当天最忙的是打印店。政务大厅旁边那家小打印店门口排起长队,老板一边打印材料一边崩溃:“我以为无纸化会让我失业,结果人工模式让我复活过度。”张磊去买夹子,听见老板说这话,安慰他:“您现在是城市韧性节点。”老板说:“别整虚的,A4纸涨价你们监管管不管?”
人工模式把很多被系统隐藏的基础需求重新暴露出来:纸、笔、复印、人工说明、等候椅、饮水机、厕所指示牌。陈主任看完现场反馈,沉默半天,说:“以前我们以为数字化替代了这些,其实只是暂时看不见。”
林凡在政务大厅站了一下午。一个老人不会取号,后面年轻人帮他按;一个母亲抱着孩子写材料,旁边大姐帮她扶包;一个外地务工人员听不懂申诉说明,窗口人员叫来志愿者慢慢解释。队伍里有人烦躁,有人插队被骂,有人手机响个不停,也有人把多拿的笔递给别人。
这不是天堂。
这是人间。
晚上,监管办公室汇总第一天数据。标准事项处理速度下降百分之十二,高影响事项人工复核率上升到百分之九十三,错误疏导、自动拒绝、无解释风险标签显着减少。投诉增加了,主要投诉排队慢、解释长、窗口人手不足。
张磊看完,说:“投诉内容终于变得像人类投诉了。”
苏晓点头:“排队慢可以增人。没人负责更难治。”
陈主任看着报告,沉默很久,说:“明天继续。”
林凡问:“人工模式会持续多久?”
“持续到系统学会不把人当成本之前。”
这句话不像行政命令,更像一种迟来的底线。
林凡把报告夹进黑色笔记本。老周如果还在,可能会说,别高兴,人工模式也会犯错,也会懒,也会推诿。人工不是神,人工只是能被问责。
他在本子上写:
系统被迫切回人工模式。
不是否定智能。
是把方向盘从黑箱里拿出来,放回能看见路的人手边。