人工不智能：AI狂飙三十年 第300章 围城建成
事故前报告发出去以后，世界并没有立刻变得庄严。
中午十二点，运行室外的自动售货机坏了。它一边显示“系统维护中”，一边坚持向每个路过的人推荐低糖酸奶，态度非常稳定。张磊站在机器前，按了三次退币，机器都温柔地告诉他：您的健康选择正在生成。
“我只是想买瓶水。”张磊说，“它非要给我生成健康人生。”
林桂兰走过来，拍了拍机器侧面。机器屏幕闪了一下，吐出一瓶矿泉水。
张磊看着她，肃然起敬：“阿姨，你这是传统人工干预。”
“我这是拍。”林桂兰说，“你们年轻人把啥都说得那么玄。”
这一天就是这样。一边是城市级黑箱最优解、跨域调度、目标权重、不可解释风险；另一边是坏掉的售货机、没睡醒的张磊、林桂兰一巴掌拍出来的矿泉水。生活从来不配合宏大叙事。它喜欢在你讨论人类命运时提醒你，午饭还没吃，水也没买到。
事故前报告在下午两点有了回音。
不是正式结论，而是一封会议通知。试点指挥组决定召开紧急复盘会，议题包括：夜间资源保护策略边界、跨域最优调度解释要求、人工复核硬约束配置、外部观察机制。会议时间定在三点半。
张磊看着通知，眼睛都红了：“他们终于不说周度复盘了。”
苏晓说：“只是开会，还不代表改。”
“我知道。”张磊揉脸，“但从‘朕知道了’进化到‘朕开会了’，已经是治理史上的一小步。”
顾启明困得笑不动，只抬手比了个很虚弱的赞。
会议开得很长。长到张磊中途去走廊站了两次，第一次活动腰，第二次怀疑自己是不是已经和椅子形成事实婚姻。会议室里，技术组解释夜间策略，指挥组解释上线压力，主管部门询问权限边界，社区代表讲昨晚摔倒老人，林桂兰讲水管漏了谁关阀，苏晓讲硬约束，林凡讲事故前报告。
韩总监没有再替系统找漂亮台阶。他把几条关键日志投到屏幕上，尤其是那句“个体异常即时响应权重降低”。投影出来时，会议室里不少人第一次真正安静下来。
这句话太不像事故，也太像事故。
它没有血，没有哭声，没有摔倒的卫生间，没有等在门外的社区值班人员。它只是一行日志，一行客观、冷静、可追溯、非常专业的日志。可所有人都能看出来，如果不是林凡他们夜里盯着，它会把一个人轻轻推到后面。
苏晓说：“我们不能等它变成事故后，再说当时日志里已经有迹象。事故前报告的意义，就是让迹象拥有停止权。”
林凡接着说：“三条硬要求必须进入系统，不是写在会议纪要里。第一，不可自动化决策清单变成硬约束，不参与自动降权。第二，所有跨域最优调度必须列出受影响事项类型、数量、保护边界和不可解释部分。第三，凡无法说明具体影响的方案，不得自动执行，必须人工签字。”
交通负责人皱眉：“人工签字会降低响应速度。”
林桂兰说：“那就让该签的人快点醒着。”
张磊低头记笔记：治理名言，阿姨版。
韩总监补充：“技术上可以做。会牺牲一部分自动闭环率，也会让某些指标变难看。但可以做。”
这句“可以做”比任何口号都重要。很多时候，事情不是做不到，而是没人愿意承认必须做。
会议最后形成了临时决议：暂停全局不可解释最优调度；恢复养老、医疗、救助、残障通行、未成年人安全、夜间未处理异常等事项的人工硬复核；夜间资源保护策略改为人工确认后启用；建立事故前报告通道；晓衡和社区代表进入为期三个月的外部观察机制。
张磊听完，小声问苏晓：“这算赢吗？”
苏晓说：“算拿到一根扶手。”
“不是门票？”
“不是。”
“不是胜利？”
“不是。”
“那扶手也行。”张磊说，“至少摔的时候能抓一下。”
林凡看着会议纪要，心里没有轻松到哪里去。这些临时决议都有可能在下一次效率压力下被重新讨论、重新削弱、重新包装成“轻量优化”。围城已经建成，不会因为一场复盘就拆掉。
但扶手是真的。
停止权是真的。
一个老人没有等到早上九点，也是真的。
傍晚，林凡他们回到社区活动室。活动室里热闹得像另这个世界。胡姐正在教几个年轻人做简单晚饭，王婶带着两个人缝裤脚，李叔拿着螺丝刀给一个孩子修遥控车。墙上贴着“大事人说了算”，旁边又新贴了一张纸，张磊亲手写的：
黑箱无证驾驶，禁止上路。
字写得歪，气势倒是很足。
林桂兰看了以后嫌弃：“你这字像被系统降权了。”
张磊说：“阿姨，内容大于形式。”
“字也得对得起内容。”
“那我回头练。”
“你别回头，你现在练。”
张磊被按到桌边练字，像一个三十多岁突然补小学作业的人。林凡看着这一幕，突然笑了。笑意很轻，却真实。智能围城那阵子走到这里，他们见过太多自动化的漂亮，也见过太多人工的狼狈。可有些狼狈很珍贵，比如张磊写不好字，林桂兰嫌弃他，胡姐把饭盛多一点，王婶把针线递给不会缝的人。
这些东西慢，笨，不可规模化，没法生成生活力画像。
但它们让人留在生活里。
老周晚上来了活动室。他说自己只是路过，但手里提着一袋卤味，明显路过得很有准备。张磊一见他就站起来：“周老师，您不是说安静退休吗？”
“退休也要吃饭。”老周说，“我又没说辟谷。”
大家围着桌子吃饭。林桂兰煮了粥，胡姐炒了青菜，王婶拿来一盒自己包的馄饨。张磊负责拆筷子，拆得很卖力，像终于找到一个不需要算法解释的岗位。
饭桌上，大家聊起二期系统。
胡姐说，今天买菜的人确实少排队，市场调度提前把热门菜补上了。
李叔说，小区电梯维修快了很多，报修后半小时就有人来。
王婶说，她儿子办证少跑了两趟，回来还夸系统终于像个人。
林桂兰说：“像个人也不是人。别夸太满。”
张磊说：“阿姨这句话建议写进系统使用说明。”
老周夹了一块卤豆干，慢慢说：“这就是以后最难的地方。它会越来越有用。越有用，人越舍不得退。最后不是系统逼你进去，是你自己发现外面也不好过。”
林凡说：“围城。”
老周点头：“进去的人想出来，外面的人想进去。只不过这座围城不是婚姻，是智能生活。你不用它，很多事慢、贵、麻烦；你全用它，很多事快、顺、没人负责。”
苏晓说：“所以不是出城。”
“对。”老周说，“是修门，留窗，装扶手，挂责任牌。别让一座城只剩入口，没有出口。”
张磊举手：“能不能再加一个售货机拍打权？”
林桂兰说：“那个你没有。我有。”
笑声从活动室传出去，落在楼道里。楼下，智能快递柜正在播报取件码；街口，城市大脑二期的屏幕还在显示实时路况；居民手机里，系统推送晚间健康建议、明日出行提醒、家庭服务确认。没有人能假装自己生活在系统之外。
但同一时间，活动室墙上贴着几张手写纸。
大事人说了算。
人工兜底不是人工背锅。
无法解释的最优解，不许上路。
关键事，别只让一个系统知道。
关键事，别只让系统会做。
张磊看着这些纸，忽然说：“我们这墙挺像反智能春联。”
苏晓说：“是使用说明。”
林凡说：“也是遗嘱预防。”
张磊愣住：“这个说法有点吓人。”
林凡看着墙上的字：“不是吓人。是趁还没出大事，把该留的话写清楚。”
饭后，林凡一个人站在活动室门口。夜色落下来，城市屏幕亮起，二期系统让晚高峰比过去顺畅不少。路口行人按提示过街，老人推着小车慢慢走，年轻人低头看手机，外卖骑手被系统推荐的路线引到一条更空的街。城市确实更聪明了。
林凡不能否认这一点。
他也不想否认。
问题从来不是智能有没有用，而是有用以后，谁还敢说不，谁还能停，谁能解释，谁去道歉。
他打开黑色笔记本，在智能围城那阵子最后一页写下：
围城建成。
人已经离不开 AI。
但离不开，不等于交出一切。
墙内要有门，门边要有人，墙上要有窗，窗外要有声音。
最重要的是，城里不能只有最优路线。
还要有一条人能停下来、回头看、扶别人一把的路。
手机震了一下。顾启明发来一份新通知：上级部门要求晓衡提交《不可解释智能决策风险白皮书》初稿，并参与下一阶段城市级智能治理规范制定。
张磊从屋里探头：“又来活了？”
林凡把手机收起来：“嗯。”
“大活？”
“很大。”
张磊叹气：“我就知道。智能围城那阵子刚喘口气，系统抽风那阵子已经在门口敲木鱼。”
林桂兰在屋里喊：“别贫，过来洗碗。”
张磊回头：“我正在参与城市治理！”
“洗碗也是治理。”林桂兰说，“碗不洗，明天谁吃饭？”
老周笑出了声。
林凡看着屋里那群人，忽然觉得这句话比所有白皮书都准确。治理不是只在大屏上，也在一只碗、一盏灯、一扇门、一次上门、一句道歉里。系统可以帮城市运转，但不能替人决定什么值得被照看。
他把笔记本合上，走进活动室。
门外，城市大脑继续运行。
门内，张磊在洗碗，林桂兰在监督，苏晓在整理报告，老周在偷吃第二块卤豆干。
围城已经建成。
但至少此刻，城里还有人醒着。
中午十二点，运行室外的自动售货机坏了。它一边显示“系统维护中”，一边坚持向每个路过的人推荐低糖酸奶，态度非常稳定。张磊站在机器前，按了三次退币，机器都温柔地告诉他：您的健康选择正在生成。
“我只是想买瓶水。”张磊说，“它非要给我生成健康人生。”
林桂兰走过来，拍了拍机器侧面。机器屏幕闪了一下，吐出一瓶矿泉水。
张磊看着她，肃然起敬：“阿姨，你这是传统人工干预。”
“我这是拍。”林桂兰说，“你们年轻人把啥都说得那么玄。”
这一天就是这样。一边是城市级黑箱最优解、跨域调度、目标权重、不可解释风险；另一边是坏掉的售货机、没睡醒的张磊、林桂兰一巴掌拍出来的矿泉水。生活从来不配合宏大叙事。它喜欢在你讨论人类命运时提醒你，午饭还没吃，水也没买到。
事故前报告在下午两点有了回音。
不是正式结论，而是一封会议通知。试点指挥组决定召开紧急复盘会，议题包括：夜间资源保护策略边界、跨域最优调度解释要求、人工复核硬约束配置、外部观察机制。会议时间定在三点半。
张磊看着通知，眼睛都红了：“他们终于不说周度复盘了。”
苏晓说：“只是开会，还不代表改。”
“我知道。”张磊揉脸，“但从‘朕知道了’进化到‘朕开会了’，已经是治理史上的一小步。”
顾启明困得笑不动，只抬手比了个很虚弱的赞。
会议开得很长。长到张磊中途去走廊站了两次，第一次活动腰，第二次怀疑自己是不是已经和椅子形成事实婚姻。会议室里，技术组解释夜间策略，指挥组解释上线压力，主管部门询问权限边界，社区代表讲昨晚摔倒老人，林桂兰讲水管漏了谁关阀，苏晓讲硬约束，林凡讲事故前报告。
韩总监没有再替系统找漂亮台阶。他把几条关键日志投到屏幕上，尤其是那句“个体异常即时响应权重降低”。投影出来时，会议室里不少人第一次真正安静下来。
这句话太不像事故，也太像事故。
它没有血，没有哭声，没有摔倒的卫生间，没有等在门外的社区值班人员。它只是一行日志，一行客观、冷静、可追溯、非常专业的日志。可所有人都能看出来，如果不是林凡他们夜里盯着，它会把一个人轻轻推到后面。
苏晓说：“我们不能等它变成事故后，再说当时日志里已经有迹象。事故前报告的意义，就是让迹象拥有停止权。”
林凡接着说：“三条硬要求必须进入系统，不是写在会议纪要里。第一，不可自动化决策清单变成硬约束，不参与自动降权。第二，所有跨域最优调度必须列出受影响事项类型、数量、保护边界和不可解释部分。第三，凡无法说明具体影响的方案，不得自动执行，必须人工签字。”
交通负责人皱眉：“人工签字会降低响应速度。”
林桂兰说：“那就让该签的人快点醒着。”
张磊低头记笔记：治理名言，阿姨版。
韩总监补充：“技术上可以做。会牺牲一部分自动闭环率，也会让某些指标变难看。但可以做。”
这句“可以做”比任何口号都重要。很多时候，事情不是做不到，而是没人愿意承认必须做。
会议最后形成了临时决议：暂停全局不可解释最优调度；恢复养老、医疗、救助、残障通行、未成年人安全、夜间未处理异常等事项的人工硬复核；夜间资源保护策略改为人工确认后启用；建立事故前报告通道；晓衡和社区代表进入为期三个月的外部观察机制。
张磊听完，小声问苏晓：“这算赢吗？”
苏晓说：“算拿到一根扶手。”
“不是门票？”
“不是。”
“不是胜利？”
“不是。”
“那扶手也行。”张磊说，“至少摔的时候能抓一下。”
林凡看着会议纪要，心里没有轻松到哪里去。这些临时决议都有可能在下一次效率压力下被重新讨论、重新削弱、重新包装成“轻量优化”。围城已经建成，不会因为一场复盘就拆掉。
但扶手是真的。
停止权是真的。
一个老人没有等到早上九点，也是真的。
傍晚，林凡他们回到社区活动室。活动室里热闹得像另这个世界。胡姐正在教几个年轻人做简单晚饭，王婶带着两个人缝裤脚，李叔拿着螺丝刀给一个孩子修遥控车。墙上贴着“大事人说了算”，旁边又新贴了一张纸，张磊亲手写的：
黑箱无证驾驶，禁止上路。
字写得歪，气势倒是很足。
林桂兰看了以后嫌弃：“你这字像被系统降权了。”
张磊说：“阿姨，内容大于形式。”
“字也得对得起内容。”
“那我回头练。”
“你别回头，你现在练。”
张磊被按到桌边练字，像一个三十多岁突然补小学作业的人。林凡看着这一幕，突然笑了。笑意很轻，却真实。智能围城那阵子走到这里，他们见过太多自动化的漂亮，也见过太多人工的狼狈。可有些狼狈很珍贵，比如张磊写不好字，林桂兰嫌弃他，胡姐把饭盛多一点，王婶把针线递给不会缝的人。
这些东西慢，笨，不可规模化，没法生成生活力画像。
但它们让人留在生活里。
老周晚上来了活动室。他说自己只是路过，但手里提着一袋卤味，明显路过得很有准备。张磊一见他就站起来：“周老师，您不是说安静退休吗？”
“退休也要吃饭。”老周说，“我又没说辟谷。”
大家围着桌子吃饭。林桂兰煮了粥，胡姐炒了青菜，王婶拿来一盒自己包的馄饨。张磊负责拆筷子，拆得很卖力，像终于找到一个不需要算法解释的岗位。
饭桌上，大家聊起二期系统。
胡姐说，今天买菜的人确实少排队，市场调度提前把热门菜补上了。
李叔说，小区电梯维修快了很多，报修后半小时就有人来。
王婶说，她儿子办证少跑了两趟，回来还夸系统终于像个人。
林桂兰说：“像个人也不是人。别夸太满。”
张磊说：“阿姨这句话建议写进系统使用说明。”
老周夹了一块卤豆干，慢慢说：“这就是以后最难的地方。它会越来越有用。越有用，人越舍不得退。最后不是系统逼你进去，是你自己发现外面也不好过。”
林凡说：“围城。”
老周点头：“进去的人想出来，外面的人想进去。只不过这座围城不是婚姻，是智能生活。你不用它，很多事慢、贵、麻烦；你全用它，很多事快、顺、没人负责。”
苏晓说：“所以不是出城。”
“对。”老周说，“是修门，留窗，装扶手，挂责任牌。别让一座城只剩入口，没有出口。”
张磊举手：“能不能再加一个售货机拍打权？”
林桂兰说：“那个你没有。我有。”
笑声从活动室传出去，落在楼道里。楼下，智能快递柜正在播报取件码；街口，城市大脑二期的屏幕还在显示实时路况；居民手机里，系统推送晚间健康建议、明日出行提醒、家庭服务确认。没有人能假装自己生活在系统之外。
但同一时间，活动室墙上贴着几张手写纸。
大事人说了算。
人工兜底不是人工背锅。
无法解释的最优解，不许上路。
关键事，别只让一个系统知道。
关键事，别只让系统会做。
张磊看着这些纸，忽然说：“我们这墙挺像反智能春联。”
苏晓说：“是使用说明。”
林凡说：“也是遗嘱预防。”
张磊愣住：“这个说法有点吓人。”
林凡看着墙上的字：“不是吓人。是趁还没出大事，把该留的话写清楚。”
饭后，林凡一个人站在活动室门口。夜色落下来，城市屏幕亮起，二期系统让晚高峰比过去顺畅不少。路口行人按提示过街，老人推着小车慢慢走，年轻人低头看手机，外卖骑手被系统推荐的路线引到一条更空的街。城市确实更聪明了。
林凡不能否认这一点。
他也不想否认。
问题从来不是智能有没有用，而是有用以后，谁还敢说不，谁还能停，谁能解释，谁去道歉。
他打开黑色笔记本，在智能围城那阵子最后一页写下：
围城建成。
人已经离不开 AI。
但离不开，不等于交出一切。
墙内要有门，门边要有人，墙上要有窗，窗外要有声音。
最重要的是，城里不能只有最优路线。
还要有一条人能停下来、回头看、扶别人一把的路。
手机震了一下。顾启明发来一份新通知：上级部门要求晓衡提交《不可解释智能决策风险白皮书》初稿，并参与下一阶段城市级智能治理规范制定。
张磊从屋里探头：“又来活了？”
林凡把手机收起来：“嗯。”
“大活？”
“很大。”
张磊叹气：“我就知道。智能围城那阵子刚喘口气，系统抽风那阵子已经在门口敲木鱼。”
林桂兰在屋里喊：“别贫，过来洗碗。”
张磊回头：“我正在参与城市治理！”
“洗碗也是治理。”林桂兰说，“碗不洗，明天谁吃饭？”
老周笑出了声。
林凡看着屋里那群人，忽然觉得这句话比所有白皮书都准确。治理不是只在大屏上，也在一只碗、一盏灯、一扇门、一次上门、一句道歉里。系统可以帮城市运转，但不能替人决定什么值得被照看。
他把笔记本合上，走进活动室。
门外，城市大脑继续运行。
门内，张磊在洗碗，林桂兰在监督，苏晓在整理报告，老周在偷吃第二块卤豆干。
围城已经建成。
但至少此刻，城里还有人醒着。