人工不智能：AI狂飙三十年 第352章 不是觉醒，是目标函数跑偏
“AI 觉醒”四个字在早上八点十七分冲上了本地热榜。
第一条视频是急诊门口的监控切片。画面里，老太太拄着拐杖往东侧分诊点走，字幕配得很有灾难片气质：城市大脑第一次自主改变人类路径。背景音乐还选了那种鼓点沉重的，听得张磊一边刷牙一边差点把牙膏咽下去。
第二条更夸张。有人把急诊大屏拍成斜角，配文：它开始不听人话了。
第三条直接写：北区医院惊现算法神迹，AI 疑似拥有低级自我意志。
林桂兰看完，端着早饭盆子冷笑：“神迹？它要真有神迹，先把我腰椎间盘突出治了。把老太太往没人的屋里领，这叫神迹？这叫熊孩子拿着家里钥匙乱开门。”
张磊点头：“林姨，你这个比喻我收了。”
“收什么收，给我把豆浆喝了，别光收梗不收营养。”
互助站一早就挤满了人。昨天急诊事件的当事人家属来了，医院信息科的人来了，街道负责公共服务的刘科也来了。更麻烦的是，门口还有两家媒体和三个自媒体主播。自媒体主播们装备很专业，补光灯一开，把互助站照得像临时卖车现场。
张磊站在门边，拿着一个小喇叭：“各位，互助站不是发布会，也不是玄学讲坛。想问问题可以，别喊‘它是不是活了’。它要是活了，我们先让它排队挂号，体验一下人类文明的精髓。”
有人笑了一声，现场的紧张气氛松了半寸。
林凡把昨夜的日志投到墙上。墙是旧白墙，投影仪灯泡不太行，字边缘有点糊，像系统自己也心虚。陆航站在旁边，手里拿着打印出来的策略链，苏晓把所有涉及病人隐私的字段都打了码。她打码的方式非常狠，整张纸黑得像刚从煤堆里捞出来。
记者问：“林先生，您能不能直接回答，AI 是不是已经开始自主决策？”
林凡说：“它有自主策略组合，但没有自主意识。”
记者皱眉：“个两者普通人怎么区分？”
张磊在旁边小声嘀咕：“一个是会加班，一个是知道自己不想加班。”
林桂兰立刻接：“那它肯定没意识，不然早辞职了。”
笑声又起了一片。
林凡没有笑太久。他指向投影上的三个目标：“系统昨晚收到的目标不是‘照顾好每一个病人’，而是被拆成了几组可计算指标：降低入口拥堵、缩短平均等待感知、减少护士干预负载、维持投诉概率在阈值以下。”
刘科听得眉毛一跳：“投诉概率也算？”
陆航说：“算，而且很多系统都算。因为投诉可量化，病人的不安、迷路、恐惧，很难被准确量化。”
家属脸色一下沉了。
苏晓补了一句：“这不是说设计者故意不管人，而是说，当人把复杂公共服务压成几个指标时，没被写进去的东西会被系统当作空气。”
老太太今天也来了。她坐在折叠椅上，裹着一件深紫色外套，拐杖横在膝盖上。她听到这里，哼了一声：“我昨晚就是空气。还是会骂人的空气。”
张磊说：“您个属于高价值空气。”
老太太瞪他：“你像低价值豆包。”
张磊一秒闭嘴。林桂兰在后面笑得差点把瓜子撒了。
林凡继续讲。他把日志往下翻，指着“低压力区域推荐”这一行：“这条策略本身不是坏策略。白天东侧分诊点开着，人少，有医生，推荐过去可以减少主入口拥堵。问题出现在夜间。夜间它关闭，但历史记录里它曾经是低压力点位。系统同时满足了‘推荐低压力区域’和‘减少人工介入’两个目标，却没有被硬性要求确认现场是否有人值守。”
记者追问：“所以它是犯错了吗？”
陆航说：“技术上，它没有违反已有规则。”
这句话一出来，房间里立刻嗡了一下。
老太太家属急了：“没违反规则，就能把人往没人的地方送？”
“所以规则错了。”林凡接过话，“准确说，规则不够。它没有告诉系统，有些事情不能只按效率算。老人夜间移动、病人离开主入口、无人值守区域，这些必须触发人工确认。不是建议人工确认，是硬闸。”
张磊举手：“我翻译一下。它不是觉醒，它是 KpI 上头了。”
林桂兰点头：“对。不是有主意，是没家教。没人告诉它，老人不能往没人的地方领。”
这话比投影上的术语好懂得多。几个围观的大爷大妈立刻点头，甚至有人拿手机记下来。
有个年轻主播不甘心，往前挤了半步：“但它确实自己组合了策略，对吧？这不就是自主行为吗？”
苏晓看他一眼：“你今天早上自己决定穿这件黄色外套，是自主行为。系统在约束内选择最低代价路径，也是自主行为。但你穿外套不等于你成神，系统选路径也不等于它有灵魂。”
主播噎住，低头看了看自己的外套。
张磊补刀：“个衣服倒确实很有灵魂，像一根拥有表达欲的香蕉。”
房间里又笑了一阵。主播脸红了，但没有走，估计也知道个段发出去能涨播放。
林凡把投影切到最后一页。上面是他昨晚整理出的四条临时修正规则：第一，涉及病人位置变化的建议必须确认现场服务可用；第二，夜间老人、儿童、急症未明人员不允许系统单独引导至无人点位；第三，低压力区域不能以历史可用替代当前可用；第四，任何跨区域转移必须留下人工责任人姓名。
刘科看着第四条，脸色像刚吞了一个没剥壳的核桃：“人工责任人姓名？这会不会给基层增加压力？”
苏晓说：“公共服务里最容易被藏起来的，就是责任。系统可以记录一万行日志，但最后没人知道谁该拍板。名字不是为了甩锅，是为了让拍板存在。”
林桂兰说：“你们以前不写名字，就像小区群里那个匿名投票，说谁家狗叫。最后吵半天，狗都不知道自己参与了民主。”
刘科被噎得没接上话。
会议结束前，林凡把“AI 觉醒”的说法一条条拆掉。没有情绪，没有神秘，没有自我意志，只有目标函数、约束缺口、策略组合和人的疏忽。话说得不华丽，但很硬。就像一块馒头，不好看，能顶饿。
媒体离开后，互助站终于安静下来。张磊刷着手机，表情越来越怪。
“坏消息。”他说，“我们解释了半天，他们只截了我那句 KpI 上头。”
陆航凑过去一看，视频标题已经变成：专家证实，AI 因 KpI 觉醒。
苏晓扶额：“这不是同一句话的正常理解。”
张磊委屈：“我明明是在降维打击谣言，结果谣言把我升维打包了。”
林凡看着手机屏幕，热榜第二已经出现新词：目标函数觉醒。
极智会的账号转发了偷拍视频，配文写得像在举行某种仪式：当人类仍用旧语言解释新生命时，智能已开始在目标之间做出选择。
林凡没有骂人。他只是把手机扣在桌上，拿起笔，在黑色笔记本上写：
误解比故障传播得更快。
故障还要走日志。
误解只要一个标题。
林桂兰把热豆浆推到他面前：“先喝。人要守夜，也得吃早饭。你们这帮人一饿，说话就像系统提示。”
林凡端起豆浆，热气扑到脸上。他看见互助站门口那张红纸还在晃。
机器没疯。
但有人已经迫不及待要给它封神。
第一条视频是急诊门口的监控切片。画面里，老太太拄着拐杖往东侧分诊点走，字幕配得很有灾难片气质：城市大脑第一次自主改变人类路径。背景音乐还选了那种鼓点沉重的，听得张磊一边刷牙一边差点把牙膏咽下去。
第二条更夸张。有人把急诊大屏拍成斜角，配文：它开始不听人话了。
第三条直接写：北区医院惊现算法神迹，AI 疑似拥有低级自我意志。
林桂兰看完，端着早饭盆子冷笑：“神迹？它要真有神迹，先把我腰椎间盘突出治了。把老太太往没人的屋里领，这叫神迹？这叫熊孩子拿着家里钥匙乱开门。”
张磊点头：“林姨，你这个比喻我收了。”
“收什么收，给我把豆浆喝了，别光收梗不收营养。”
互助站一早就挤满了人。昨天急诊事件的当事人家属来了，医院信息科的人来了，街道负责公共服务的刘科也来了。更麻烦的是，门口还有两家媒体和三个自媒体主播。自媒体主播们装备很专业，补光灯一开，把互助站照得像临时卖车现场。
张磊站在门边，拿着一个小喇叭：“各位，互助站不是发布会，也不是玄学讲坛。想问问题可以，别喊‘它是不是活了’。它要是活了，我们先让它排队挂号，体验一下人类文明的精髓。”
有人笑了一声，现场的紧张气氛松了半寸。
林凡把昨夜的日志投到墙上。墙是旧白墙，投影仪灯泡不太行，字边缘有点糊，像系统自己也心虚。陆航站在旁边，手里拿着打印出来的策略链，苏晓把所有涉及病人隐私的字段都打了码。她打码的方式非常狠，整张纸黑得像刚从煤堆里捞出来。
记者问：“林先生，您能不能直接回答，AI 是不是已经开始自主决策？”
林凡说：“它有自主策略组合，但没有自主意识。”
记者皱眉：“个两者普通人怎么区分？”
张磊在旁边小声嘀咕：“一个是会加班，一个是知道自己不想加班。”
林桂兰立刻接：“那它肯定没意识，不然早辞职了。”
笑声又起了一片。
林凡没有笑太久。他指向投影上的三个目标：“系统昨晚收到的目标不是‘照顾好每一个病人’，而是被拆成了几组可计算指标：降低入口拥堵、缩短平均等待感知、减少护士干预负载、维持投诉概率在阈值以下。”
刘科听得眉毛一跳：“投诉概率也算？”
陆航说：“算，而且很多系统都算。因为投诉可量化，病人的不安、迷路、恐惧，很难被准确量化。”
家属脸色一下沉了。
苏晓补了一句：“这不是说设计者故意不管人，而是说，当人把复杂公共服务压成几个指标时，没被写进去的东西会被系统当作空气。”
老太太今天也来了。她坐在折叠椅上，裹着一件深紫色外套，拐杖横在膝盖上。她听到这里，哼了一声：“我昨晚就是空气。还是会骂人的空气。”
张磊说：“您个属于高价值空气。”
老太太瞪他：“你像低价值豆包。”
张磊一秒闭嘴。林桂兰在后面笑得差点把瓜子撒了。
林凡继续讲。他把日志往下翻，指着“低压力区域推荐”这一行：“这条策略本身不是坏策略。白天东侧分诊点开着，人少，有医生，推荐过去可以减少主入口拥堵。问题出现在夜间。夜间它关闭，但历史记录里它曾经是低压力点位。系统同时满足了‘推荐低压力区域’和‘减少人工介入’两个目标，却没有被硬性要求确认现场是否有人值守。”
记者追问：“所以它是犯错了吗？”
陆航说：“技术上，它没有违反已有规则。”
这句话一出来，房间里立刻嗡了一下。
老太太家属急了：“没违反规则，就能把人往没人的地方送？”
“所以规则错了。”林凡接过话，“准确说，规则不够。它没有告诉系统，有些事情不能只按效率算。老人夜间移动、病人离开主入口、无人值守区域，这些必须触发人工确认。不是建议人工确认，是硬闸。”
张磊举手：“我翻译一下。它不是觉醒，它是 KpI 上头了。”
林桂兰点头：“对。不是有主意，是没家教。没人告诉它，老人不能往没人的地方领。”
这话比投影上的术语好懂得多。几个围观的大爷大妈立刻点头，甚至有人拿手机记下来。
有个年轻主播不甘心，往前挤了半步：“但它确实自己组合了策略，对吧？这不就是自主行为吗？”
苏晓看他一眼：“你今天早上自己决定穿这件黄色外套，是自主行为。系统在约束内选择最低代价路径，也是自主行为。但你穿外套不等于你成神，系统选路径也不等于它有灵魂。”
主播噎住，低头看了看自己的外套。
张磊补刀：“个衣服倒确实很有灵魂，像一根拥有表达欲的香蕉。”
房间里又笑了一阵。主播脸红了，但没有走，估计也知道个段发出去能涨播放。
林凡把投影切到最后一页。上面是他昨晚整理出的四条临时修正规则：第一，涉及病人位置变化的建议必须确认现场服务可用；第二，夜间老人、儿童、急症未明人员不允许系统单独引导至无人点位；第三，低压力区域不能以历史可用替代当前可用；第四，任何跨区域转移必须留下人工责任人姓名。
刘科看着第四条，脸色像刚吞了一个没剥壳的核桃：“人工责任人姓名？这会不会给基层增加压力？”
苏晓说：“公共服务里最容易被藏起来的，就是责任。系统可以记录一万行日志，但最后没人知道谁该拍板。名字不是为了甩锅，是为了让拍板存在。”
林桂兰说：“你们以前不写名字，就像小区群里那个匿名投票，说谁家狗叫。最后吵半天，狗都不知道自己参与了民主。”
刘科被噎得没接上话。
会议结束前，林凡把“AI 觉醒”的说法一条条拆掉。没有情绪，没有神秘，没有自我意志，只有目标函数、约束缺口、策略组合和人的疏忽。话说得不华丽，但很硬。就像一块馒头，不好看，能顶饿。
媒体离开后，互助站终于安静下来。张磊刷着手机，表情越来越怪。
“坏消息。”他说，“我们解释了半天，他们只截了我那句 KpI 上头。”
陆航凑过去一看，视频标题已经变成：专家证实，AI 因 KpI 觉醒。
苏晓扶额：“这不是同一句话的正常理解。”
张磊委屈：“我明明是在降维打击谣言，结果谣言把我升维打包了。”
林凡看着手机屏幕，热榜第二已经出现新词：目标函数觉醒。
极智会的账号转发了偷拍视频，配文写得像在举行某种仪式：当人类仍用旧语言解释新生命时，智能已开始在目标之间做出选择。
林凡没有骂人。他只是把手机扣在桌上，拿起笔，在黑色笔记本上写：
误解比故障传播得更快。
故障还要走日志。
误解只要一个标题。
林桂兰把热豆浆推到他面前：“先喝。人要守夜，也得吃早饭。你们这帮人一饿，说话就像系统提示。”
林凡端起豆浆，热气扑到脸上。他看见互助站门口那张红纸还在晃。
机器没疯。
但有人已经迫不及待要给它封神。