人工不智能:AI狂飙三十年 第258章 苏晓怀疑资源分配算法
苏晓发现不对劲,是因为一张表太整齐。
风险咨询做久了,人会对整齐产生一种职业性的怀疑。数据乱,有时是现实乱;数据太顺,反而可能是有人把现实熨过头。那天晚上,晓衡办公室只剩她和唐宁。窗外的海城市灯光一格一格亮着,城市大脑上线后的夜间交通曲线比过去平滑很多,像一条脾气变好的河。唐宁抱着咖啡杯,盯着屏幕看了半小时,最后说:“我现在看折线图都觉得它在骗我。”
苏晓没有抬头:“不是折线图骗你,是它太想让你相信它没骗你。”
屏幕上是一份公共资源智能分配试点月报。项目覆盖三类资源:课后 AI 辅导名额、社区养老上门服务时段、基层便民服务移动窗口。报告结论很好看:总体服务效率提升,资源空置率下降,用户满意度提高,响应时间缩短。每个指标都像刚做完体检,健康得令人放心。
唐宁翻到结论页,叹气:“这要是甲方汇报,领导看完能当场多吃半碗饭。”
苏晓说:“问题在这儿。”
“哪儿?”
“太会让人多吃饭了。”
她把数据按社区拆开。海城市试点区里,资源分配算法会综合居民需求、历史使用率、服务完成率、投诉率、出行距离、响应成本等指标,动态调整服务名额。听起来非常合理。课后辅导资源优先投向“学习提升潜力高、参与稳定、家庭配合度较好”的学生;养老上门服务优先投向“风险等级适中、服务可达性高、预期改善明显”的老人;移动窗口优先进入“办件集中、材料齐备、转化效率高”的社区。
每个词都没有错。
学习提升潜力,家庭配合度,服务可达性,预期改善,转化效率。
它们像一群穿西装的词,站在门口微笑,谁也不像坏人。
苏晓却在这些词里闻到了熟悉的味道:系统正在把“容易服务的人”识别成“更值得服务的人”。
唐宁靠近屏幕:“你看这个社区?”
“嗯。”苏晓点开城西的柳桥社区。这个社区外来务工家庭多,老人多,房屋老旧,居民信息更新慢。报告里,柳桥社区的课后 AI 辅导申请量很高,但最终获得名额比例偏低;养老服务需求登记也高,可上门时段排得分散且延后;移动窗口过去一个月只去了两次,而旁边条件更好的明湖社区去了六次。
唐宁皱眉:“算法是不是觉得柳桥投入产出比低?”
苏晓说:“换句话说,越需要帮助的地方,因为配合度低、材料不齐、投诉率高、服务成本高,反而被系统排到后面。”
唐宁把咖啡放下:“这不就是迟早要爆的雷?”
“先别急着爆。”苏晓说,“我们得拿证据。”
她给林凡发消息:明天有空吗?资源分配算法可能有问题。
林凡很快回:哪类问题?
苏晓看着屏幕上那几个漂亮指标,敲下几个字:它可能在奖励容易被服务的人。
第二天上午,云启未来会议室里摆满了资料。顾启明本来只想旁听十分钟,结果听到“资源分配”四个字,椅子自动长出了留人功能。他坐下后说:“公共资源这条线别轻举妄动,牵扯部门多。”
张磊立刻举手:“顾总,您这句话翻译一下,是不是‘这锅比较大,端的时候别闪腰’?”
顾启明看他一眼:“你最近从厕所出来以后,胆子变大了?”
张磊正色:“经历过密闭空间考验的人,对公共资源有更深理解。”
何苗把话题拉回来:“苏晓姐,你怀疑的是分配规则歧视低配合社区?”
苏晓点头:“不是传统意义上写明歧视。规则表面中立,但指标会偏向服务成本低、历史完成率高、材料更规范、居民更会使用系统的社区。结果就是,资源更容易流向本来就更有能力获得资源的人。”
林凡在白板上写下四个字:便利偏差。
老周坐在后排喝茶:“这个词准。机器喜欢顺手帮忙,顺手久了,就不爱帮麻烦人。”
张磊说:“人也一样。外卖骑手都喜欢送电梯房,不喜欢爬七楼。”
顾启明问:“能证明吗?”
苏晓把柳桥社区和明湖社区的对比投出来。明湖社区居民信息完整度高,线上申请材料一次通过率高,投诉率低,服务完成率高。柳桥社区恰恰相反:很多老人不会线上确认,外来家庭联系方式变动频繁,孩子课后出勤不稳定,投诉率高,因为服务经常排不到合适时间。
算法根据这些指标,把明湖判断为“高效率服务区域”,把柳桥判断为“资源消耗较高区域”。结果不是完全不给柳桥资源,而是每次动态优化时,柳桥都被轻轻往后挪一点。挪一次看不出来,挪一个月,差距就出来了。
张磊盯着图:“这像什么呢?像排队时有人因为太会排队,被系统奖励再排前一点;不会排的因为总出错,被系统劝你下次再来。”
林桂兰正好在线上,听到这里,气得声音都大了:“不会排更要帮啊!都排明白了还要你干啥?”
苏晓说:“这就是问题。算法优化的是服务成功率,不是服务必要性。”
会议室安静下来。
服务成功率很容易被喜欢。它好统计,好汇报,好看。一个服务完成了,就是完成;一个用户满意了,就是满意。可最难服务的人,往往会拖低成功率。老人听不懂,孩子缺课,家庭联系不上,材料反复补,投诉多,现场情况复杂。系统如果只追求漂亮完成率,就会本能地避开这些人。
何苗问:“那需求量指标不能抵消吗?”
苏晓摇头:“需求量被放进去了,但权重不高。更关键的是,需求本身也依赖登记。不会登记、登记不完整、登记后无法线上确认的人,需求会被系统低估。”
林凡想起政务大厅里那些“待核验”的人。城市大脑不是不服务他们,而是需要他们先以系统能理解的方式出现。出现不了,就变成低置信度、低完成率、高成本。
张磊说:“也就是,越像标准用户,越容易被当成真实用户。”
苏晓看了他一眼:“这句很好。”
张磊挺直腰:“我最近经历丰富,输出稳定。”
顾启明说:“别飘。”
为了拿到更具体的证据,苏晓和林凡下午去了柳桥社区。柳桥在城西,离市中心不远,却像被城市更新的镜头晃过去时漏了一格。楼房旧,电线乱,巷子窄,路边小店招牌一半新一半旧。这里没有明湖社区那种整齐的智慧屏和漂亮的花坛,门口的社区公告栏上还贴着纸质通知,边角被风吹得卷起来。
社区工作人员小吴接待他们。她三十岁出头,眼圈有点黑,桌上堆着一摞纸质申请表。
“AI 课后辅导名额?”小吴苦笑,“家长都想要。问题是线上申请老填错。有的家长白天送外卖,晚上才看手机;有的老人带孩子,不知道怎么上传材料;还有的孩子今天来明天不来,因为家里没人接。系统就觉得我们稳定性差。”
林凡问:“那你们能人工补录吗?”
“能,但补录件审核慢。系统优先处理完整线上件。”小吴指着那摞表,“这些都是我帮他们填的。填完还要等家长确认,家长确认不了又退回来。最后名额就没了。”
张磊拿起一张表看了看,申请理由写得很简单:孩子放学没人管,想让他有地方学习。
没有“学习提升潜力”,没有“家庭配合度”,没有漂亮的成长曲线,只有一句朴素到不能再朴素的话。
张磊低声说:“这理由不够优化,但够真实。”
另一边,养老服务问题更具体。柳桥社区老人多,很多人住老房子,没有电梯。上门服务算法会综合路线、时长、服务类型和紧急程度排班。由于柳桥楼道窄、爬楼多、老人情况复杂,单次服务耗时长,路线效率低。系统为了提高总体覆盖率,常常把柳桥的服务切得很碎,排到边角时间。
一个姓马的老人坐在社区门口晒太阳,听说他们来查上门服务,立刻开口:“我申请修扶手,排了三周。系统说会安排。我问哪天,它说等待匹配。我这把老骨头,天天和匹配谈恋爱。”
张磊没忍住笑,又立刻收住:“马叔,后来修了吗?”
“修了。”马叔说,“小吴找人帮我修的,不是系统。系统那天终于通知,说下周可安排。我扶手都用上了。”
小吴有点不好意思:“社区先垫了。”
苏晓问:“这种人工介入会进系统吗?”
小吴摇头:“有时候来不及。系统里还显示待完成,后来我再补。”
这就形成了更荒诞的循环。系统因为柳桥服务完成率低,减少或延后资源;社区为了不让居民等,人工先救场;人工救场没有及时进系统,系统继续认为柳桥低效。现实在努力补锅,数据在旁边认真扣分。
何苗听完,脸色也不好了:“这不是资源分配,这是让基层做隐形贷款。”
“贷款?”
“先垫时间、垫人情、垫责任,系统以后不一定还。”
小吴笑得很疲惫:“你这个说法挺准。”
傍晚,他们又去了明湖社区。明湖不是坏社区。这里的居民也有真实需求,孩子需要辅导,老人需要服务,窗口需要便利。这里的工作人员也认真,居民也不是故意占资源。问题恰恰在于,没有人作恶,资源却在规则里自然倾斜。
明湖社区的智慧屏上,课后辅导名额申请流程做得清清楚楚。家长扫码,材料自动匹配,孩子的学习报告完整,系统很快判断“可服务”。养老服务预约也顺畅,老人子女会在线上确认,上门地址规范,电梯直达,服务人员能按时完成。每一步都顺,算法当然喜欢。
张磊看完,叹气:“这就像相亲。条件越清楚、沟通越顺畅,媒婆越愿意介绍。真正需要帮忙的人,连自我介绍都写不明白。”
苏晓说:“所以公共资源不能像商业推荐那样,只追求高转化。”
林凡看着明湖社区整齐的屏幕,又想起柳桥社区卷边的纸质通知。两个社区都在同一座城市大脑里,但一个像高清图片,一个像加载失败。算法看见高清的,自然更有信心;看见加载失败的,就先放一放。
晚上复盘时,苏晓把证据链整理出来。
第一,资源分配模型使用服务完成率、材料一次通过率、居民线上确认率等效率指标。
第二,这些指标与社区数字能力、居民稳定性、基础设施条件高度相关。
第三,低数字能力社区因指标偏低,被动态分配到更少或更靠后的资源。
第四,基层人工补救未及时回流数据,进一步加剧系统低估。
第五,整体效率提高的同时,资源公平性下降。
顾启明听完,脸色凝重:“这要提给试点组。”
钟负责人在线上参会,语气谨慎:“模型目标是提高资源利用率,并没有排除特定社区。”
苏晓说:“我没有说它排除。我说它倾向。公共资源分配里,倾向也会变成结果。”
钟负责人说:“如果降低效率权重,可能导致资源空置和服务延迟。”
林凡接话:“如果只追求效率,最需要资源的人会被系统认定为不划算。”
会议室里安静了几秒。
许既明也在。他没有急着为模型辩护,而是问:“你们建议怎么改?”
苏晓把一页新的方案投出来。
公共资源分配模型必须加入公平约束,不能只以完成率和利用率为目标。
低数字能力社区需要设置最低保障资源,不得因材料不完整自动降权。
人工补录与社区代办应视为有效需求,不得低于线上申请优先级。
基层人工补救必须快速回流系统,避免现实努力在数据里消失。
资源分配报告必须同时展示平均效率和弱势区域覆盖差距。
张磊举手:“再加一句,人难帮,不代表不该帮。”
苏晓看了他一眼,把这句写到了备注里。
许既明沉默片刻:“这会让模型复杂很多。”
苏晓说:“公平本来就复杂。简单的是把复杂的人筛掉。”
这句话落下去,会议室里没人接。顾启明低头看资料,老周慢慢喝茶,林凡在白板上写下“公平约束”四个字。智能围城那阵子走到这里,智能围城不再只是门锁、厕所、药盒这些让人发笑的小事故。它开始触到资源,触到谁先得到辅导,谁先得到上门服务,谁的社区被移动窗口访问,谁的需求因为不好处理而被轻轻往后放。
张磊小声说:“以前我们担心系统把人困在厕所里,现在开始担心它把人困在低优先级里。”
林凡看了他一眼:“这句也留。”
会议结束后,苏晓一个人留在会议室。她把柳桥和明湖的对比图重新看了一遍,又把周一诺那张歪歪扭扭的名字照片放到旁边。孩子不会写名字,老人等不到扶手,家长填不对申请表,小吴替居民垫时间。它们看起来不是同一类事,却都指向同一个问题:系统喜欢清晰、稳定、可计算的人。
可现实里,最需要帮助的人,往往最不清晰、最不稳定、最难计算。
林凡走进来时,苏晓还在看屏幕。
“很累?”他问。
“有点。”苏晓说,“我以前做风险咨询,总觉得只要把问题找出来,至少能推动一点改变。现在有时候觉得,我们像在这条很快的传送带旁边捡东西。掉下来的都是人,但传送带一直往前。”
林凡坐到她旁边:“那就先让它慢一下。”
苏晓笑了笑:“你现在说‘先停一下’越来越像老周。”
“我努力继承。”
“别全继承。”苏晓说,“他那个保温杯审美不行。”
林凡笑了。
笑过之后,苏晓把报告标题改了。原标题是《公共资源智能分配公平性风险初步评估》,她在后面加了一行副标题:
别让最需要帮助的人,被系统判定为最不划算。
第二天,这份报告提交给试点组。林桂兰在社区群里看到简化版说明,发了一句很直白的话:
公共资源不是给会填表的人发奖。
这句话很快被张磊截图,贴到云启白板上。
林凡在下面补了一句:
算法可以优化路径,但不能优化掉麻烦的人。
风就从这两句话里吹向了柳桥社区。那个地方不会永远只停留在表格里。被降优先级的人,很快会用自己的生活把问题说出来。
风险咨询做久了,人会对整齐产生一种职业性的怀疑。数据乱,有时是现实乱;数据太顺,反而可能是有人把现实熨过头。那天晚上,晓衡办公室只剩她和唐宁。窗外的海城市灯光一格一格亮着,城市大脑上线后的夜间交通曲线比过去平滑很多,像一条脾气变好的河。唐宁抱着咖啡杯,盯着屏幕看了半小时,最后说:“我现在看折线图都觉得它在骗我。”
苏晓没有抬头:“不是折线图骗你,是它太想让你相信它没骗你。”
屏幕上是一份公共资源智能分配试点月报。项目覆盖三类资源:课后 AI 辅导名额、社区养老上门服务时段、基层便民服务移动窗口。报告结论很好看:总体服务效率提升,资源空置率下降,用户满意度提高,响应时间缩短。每个指标都像刚做完体检,健康得令人放心。
唐宁翻到结论页,叹气:“这要是甲方汇报,领导看完能当场多吃半碗饭。”
苏晓说:“问题在这儿。”
“哪儿?”
“太会让人多吃饭了。”
她把数据按社区拆开。海城市试点区里,资源分配算法会综合居民需求、历史使用率、服务完成率、投诉率、出行距离、响应成本等指标,动态调整服务名额。听起来非常合理。课后辅导资源优先投向“学习提升潜力高、参与稳定、家庭配合度较好”的学生;养老上门服务优先投向“风险等级适中、服务可达性高、预期改善明显”的老人;移动窗口优先进入“办件集中、材料齐备、转化效率高”的社区。
每个词都没有错。
学习提升潜力,家庭配合度,服务可达性,预期改善,转化效率。
它们像一群穿西装的词,站在门口微笑,谁也不像坏人。
苏晓却在这些词里闻到了熟悉的味道:系统正在把“容易服务的人”识别成“更值得服务的人”。
唐宁靠近屏幕:“你看这个社区?”
“嗯。”苏晓点开城西的柳桥社区。这个社区外来务工家庭多,老人多,房屋老旧,居民信息更新慢。报告里,柳桥社区的课后 AI 辅导申请量很高,但最终获得名额比例偏低;养老服务需求登记也高,可上门时段排得分散且延后;移动窗口过去一个月只去了两次,而旁边条件更好的明湖社区去了六次。
唐宁皱眉:“算法是不是觉得柳桥投入产出比低?”
苏晓说:“换句话说,越需要帮助的地方,因为配合度低、材料不齐、投诉率高、服务成本高,反而被系统排到后面。”
唐宁把咖啡放下:“这不就是迟早要爆的雷?”
“先别急着爆。”苏晓说,“我们得拿证据。”
她给林凡发消息:明天有空吗?资源分配算法可能有问题。
林凡很快回:哪类问题?
苏晓看着屏幕上那几个漂亮指标,敲下几个字:它可能在奖励容易被服务的人。
第二天上午,云启未来会议室里摆满了资料。顾启明本来只想旁听十分钟,结果听到“资源分配”四个字,椅子自动长出了留人功能。他坐下后说:“公共资源这条线别轻举妄动,牵扯部门多。”
张磊立刻举手:“顾总,您这句话翻译一下,是不是‘这锅比较大,端的时候别闪腰’?”
顾启明看他一眼:“你最近从厕所出来以后,胆子变大了?”
张磊正色:“经历过密闭空间考验的人,对公共资源有更深理解。”
何苗把话题拉回来:“苏晓姐,你怀疑的是分配规则歧视低配合社区?”
苏晓点头:“不是传统意义上写明歧视。规则表面中立,但指标会偏向服务成本低、历史完成率高、材料更规范、居民更会使用系统的社区。结果就是,资源更容易流向本来就更有能力获得资源的人。”
林凡在白板上写下四个字:便利偏差。
老周坐在后排喝茶:“这个词准。机器喜欢顺手帮忙,顺手久了,就不爱帮麻烦人。”
张磊说:“人也一样。外卖骑手都喜欢送电梯房,不喜欢爬七楼。”
顾启明问:“能证明吗?”
苏晓把柳桥社区和明湖社区的对比投出来。明湖社区居民信息完整度高,线上申请材料一次通过率高,投诉率低,服务完成率高。柳桥社区恰恰相反:很多老人不会线上确认,外来家庭联系方式变动频繁,孩子课后出勤不稳定,投诉率高,因为服务经常排不到合适时间。
算法根据这些指标,把明湖判断为“高效率服务区域”,把柳桥判断为“资源消耗较高区域”。结果不是完全不给柳桥资源,而是每次动态优化时,柳桥都被轻轻往后挪一点。挪一次看不出来,挪一个月,差距就出来了。
张磊盯着图:“这像什么呢?像排队时有人因为太会排队,被系统奖励再排前一点;不会排的因为总出错,被系统劝你下次再来。”
林桂兰正好在线上,听到这里,气得声音都大了:“不会排更要帮啊!都排明白了还要你干啥?”
苏晓说:“这就是问题。算法优化的是服务成功率,不是服务必要性。”
会议室安静下来。
服务成功率很容易被喜欢。它好统计,好汇报,好看。一个服务完成了,就是完成;一个用户满意了,就是满意。可最难服务的人,往往会拖低成功率。老人听不懂,孩子缺课,家庭联系不上,材料反复补,投诉多,现场情况复杂。系统如果只追求漂亮完成率,就会本能地避开这些人。
何苗问:“那需求量指标不能抵消吗?”
苏晓摇头:“需求量被放进去了,但权重不高。更关键的是,需求本身也依赖登记。不会登记、登记不完整、登记后无法线上确认的人,需求会被系统低估。”
林凡想起政务大厅里那些“待核验”的人。城市大脑不是不服务他们,而是需要他们先以系统能理解的方式出现。出现不了,就变成低置信度、低完成率、高成本。
张磊说:“也就是,越像标准用户,越容易被当成真实用户。”
苏晓看了他一眼:“这句很好。”
张磊挺直腰:“我最近经历丰富,输出稳定。”
顾启明说:“别飘。”
为了拿到更具体的证据,苏晓和林凡下午去了柳桥社区。柳桥在城西,离市中心不远,却像被城市更新的镜头晃过去时漏了一格。楼房旧,电线乱,巷子窄,路边小店招牌一半新一半旧。这里没有明湖社区那种整齐的智慧屏和漂亮的花坛,门口的社区公告栏上还贴着纸质通知,边角被风吹得卷起来。
社区工作人员小吴接待他们。她三十岁出头,眼圈有点黑,桌上堆着一摞纸质申请表。
“AI 课后辅导名额?”小吴苦笑,“家长都想要。问题是线上申请老填错。有的家长白天送外卖,晚上才看手机;有的老人带孩子,不知道怎么上传材料;还有的孩子今天来明天不来,因为家里没人接。系统就觉得我们稳定性差。”
林凡问:“那你们能人工补录吗?”
“能,但补录件审核慢。系统优先处理完整线上件。”小吴指着那摞表,“这些都是我帮他们填的。填完还要等家长确认,家长确认不了又退回来。最后名额就没了。”
张磊拿起一张表看了看,申请理由写得很简单:孩子放学没人管,想让他有地方学习。
没有“学习提升潜力”,没有“家庭配合度”,没有漂亮的成长曲线,只有一句朴素到不能再朴素的话。
张磊低声说:“这理由不够优化,但够真实。”
另一边,养老服务问题更具体。柳桥社区老人多,很多人住老房子,没有电梯。上门服务算法会综合路线、时长、服务类型和紧急程度排班。由于柳桥楼道窄、爬楼多、老人情况复杂,单次服务耗时长,路线效率低。系统为了提高总体覆盖率,常常把柳桥的服务切得很碎,排到边角时间。
一个姓马的老人坐在社区门口晒太阳,听说他们来查上门服务,立刻开口:“我申请修扶手,排了三周。系统说会安排。我问哪天,它说等待匹配。我这把老骨头,天天和匹配谈恋爱。”
张磊没忍住笑,又立刻收住:“马叔,后来修了吗?”
“修了。”马叔说,“小吴找人帮我修的,不是系统。系统那天终于通知,说下周可安排。我扶手都用上了。”
小吴有点不好意思:“社区先垫了。”
苏晓问:“这种人工介入会进系统吗?”
小吴摇头:“有时候来不及。系统里还显示待完成,后来我再补。”
这就形成了更荒诞的循环。系统因为柳桥服务完成率低,减少或延后资源;社区为了不让居民等,人工先救场;人工救场没有及时进系统,系统继续认为柳桥低效。现实在努力补锅,数据在旁边认真扣分。
何苗听完,脸色也不好了:“这不是资源分配,这是让基层做隐形贷款。”
“贷款?”
“先垫时间、垫人情、垫责任,系统以后不一定还。”
小吴笑得很疲惫:“你这个说法挺准。”
傍晚,他们又去了明湖社区。明湖不是坏社区。这里的居民也有真实需求,孩子需要辅导,老人需要服务,窗口需要便利。这里的工作人员也认真,居民也不是故意占资源。问题恰恰在于,没有人作恶,资源却在规则里自然倾斜。
明湖社区的智慧屏上,课后辅导名额申请流程做得清清楚楚。家长扫码,材料自动匹配,孩子的学习报告完整,系统很快判断“可服务”。养老服务预约也顺畅,老人子女会在线上确认,上门地址规范,电梯直达,服务人员能按时完成。每一步都顺,算法当然喜欢。
张磊看完,叹气:“这就像相亲。条件越清楚、沟通越顺畅,媒婆越愿意介绍。真正需要帮忙的人,连自我介绍都写不明白。”
苏晓说:“所以公共资源不能像商业推荐那样,只追求高转化。”
林凡看着明湖社区整齐的屏幕,又想起柳桥社区卷边的纸质通知。两个社区都在同一座城市大脑里,但一个像高清图片,一个像加载失败。算法看见高清的,自然更有信心;看见加载失败的,就先放一放。
晚上复盘时,苏晓把证据链整理出来。
第一,资源分配模型使用服务完成率、材料一次通过率、居民线上确认率等效率指标。
第二,这些指标与社区数字能力、居民稳定性、基础设施条件高度相关。
第三,低数字能力社区因指标偏低,被动态分配到更少或更靠后的资源。
第四,基层人工补救未及时回流数据,进一步加剧系统低估。
第五,整体效率提高的同时,资源公平性下降。
顾启明听完,脸色凝重:“这要提给试点组。”
钟负责人在线上参会,语气谨慎:“模型目标是提高资源利用率,并没有排除特定社区。”
苏晓说:“我没有说它排除。我说它倾向。公共资源分配里,倾向也会变成结果。”
钟负责人说:“如果降低效率权重,可能导致资源空置和服务延迟。”
林凡接话:“如果只追求效率,最需要资源的人会被系统认定为不划算。”
会议室里安静了几秒。
许既明也在。他没有急着为模型辩护,而是问:“你们建议怎么改?”
苏晓把一页新的方案投出来。
公共资源分配模型必须加入公平约束,不能只以完成率和利用率为目标。
低数字能力社区需要设置最低保障资源,不得因材料不完整自动降权。
人工补录与社区代办应视为有效需求,不得低于线上申请优先级。
基层人工补救必须快速回流系统,避免现实努力在数据里消失。
资源分配报告必须同时展示平均效率和弱势区域覆盖差距。
张磊举手:“再加一句,人难帮,不代表不该帮。”
苏晓看了他一眼,把这句写到了备注里。
许既明沉默片刻:“这会让模型复杂很多。”
苏晓说:“公平本来就复杂。简单的是把复杂的人筛掉。”
这句话落下去,会议室里没人接。顾启明低头看资料,老周慢慢喝茶,林凡在白板上写下“公平约束”四个字。智能围城那阵子走到这里,智能围城不再只是门锁、厕所、药盒这些让人发笑的小事故。它开始触到资源,触到谁先得到辅导,谁先得到上门服务,谁的社区被移动窗口访问,谁的需求因为不好处理而被轻轻往后放。
张磊小声说:“以前我们担心系统把人困在厕所里,现在开始担心它把人困在低优先级里。”
林凡看了他一眼:“这句也留。”
会议结束后,苏晓一个人留在会议室。她把柳桥和明湖的对比图重新看了一遍,又把周一诺那张歪歪扭扭的名字照片放到旁边。孩子不会写名字,老人等不到扶手,家长填不对申请表,小吴替居民垫时间。它们看起来不是同一类事,却都指向同一个问题:系统喜欢清晰、稳定、可计算的人。
可现实里,最需要帮助的人,往往最不清晰、最不稳定、最难计算。
林凡走进来时,苏晓还在看屏幕。
“很累?”他问。
“有点。”苏晓说,“我以前做风险咨询,总觉得只要把问题找出来,至少能推动一点改变。现在有时候觉得,我们像在这条很快的传送带旁边捡东西。掉下来的都是人,但传送带一直往前。”
林凡坐到她旁边:“那就先让它慢一下。”
苏晓笑了笑:“你现在说‘先停一下’越来越像老周。”
“我努力继承。”
“别全继承。”苏晓说,“他那个保温杯审美不行。”
林凡笑了。
笑过之后,苏晓把报告标题改了。原标题是《公共资源智能分配公平性风险初步评估》,她在后面加了一行副标题:
别让最需要帮助的人,被系统判定为最不划算。
第二天,这份报告提交给试点组。林桂兰在社区群里看到简化版说明,发了一句很直白的话:
公共资源不是给会填表的人发奖。
这句话很快被张磊截图,贴到云启白板上。
林凡在下面补了一句:
算法可以优化路径,但不能优化掉麻烦的人。
风就从这两句话里吹向了柳桥社区。那个地方不会永远只停留在表格里。被降优先级的人,很快会用自己的生活把问题说出来。