人工不智能:AI狂飙三十年 第145章 林凡和苏晓共享证据
林凡和苏晓约在一家不太适合谈秘密的面馆。
不适合的原因很简单:太吵。老板在后厨吼“二两加辣”,隔壁桌大哥一边吸面一边谈离婚,门口外卖骑手进进出出,塑料门帘被掀得哗啦响。可也正因为太吵,它又很适合。真正的秘密有时候不怕安静,怕的是安静里每一句话都显得可疑。
苏晓到的时候,林凡已经点了两碗牛肉面,外加一盘拍黄瓜。
她坐下,看了一眼桌面:“你谈证据链还点拍黄瓜?”
林凡说:“张磊说重大会议要有凉菜,显得流程完整。”
苏晓把电脑包放到椅子旁,笑了一下:“他最近还在找工作?”
“被 AI 面试判定情绪稳定性一般。”
“准确吗?”
“比较准确。”
两个人笑完,面上来了。热气把电脑屏幕边缘熏得发白,林凡赶紧把电脑往旁边挪。苏晓从包里拿出一个移动硬盘和三份纸质表格,动作很稳,像医生摆手术器械。
“我先说边界。”苏晓压低声音,“这些不是公司机密的原始数据,我做了脱敏。能公开的,是规则变化、报告版本差异、风险等级修改轨迹。不能公开的,我只给你看结构,不给具体客户。”
林凡点头:“我这边也是。客户数据全部匿名,只保留模型配置、日志时间、异常分布和处置流程。”
苏晓看着他:“你准备得挺专业。”
林凡说:“怕你骂我。”
“我一般不骂准备充分的人。”
“那我安全了。”
他们开始对表。林凡的招聘系统事故里,岗位画像把“头部资源经历”权重拉高,导致普通院校候选人被批量压低。苏晓的金融风控案例里,模型把“收入不稳定”“社保断缴”“居住地址频繁变化”当成高风险信号,最后让本来就更脆弱的人更难获得服务。慧账宝的投诉里,个体商户的小额异常被自动归类为“经营波动”,申诉入口藏得很深。
这些事情看起来不一样:招聘、贷款、财务、客服。可把表格排在一起后,某种相似性露出来了。系统都没有直接写“不要普通人”,它们只是更偏爱已经被资源照亮的人;系统也没有说“弱者活该”,它们只是把弱者生活里的不稳定,翻译成了风险。
苏晓用笔圈出几行:“这里,代理变量。”
林凡接上:“这里,人工复核缺失。”
“这里,申诉入口不可达。”
“这里,责任人写的是系统自动决策。”
苏晓停笔:“系统自动决策不能当责任人。”
林凡说:“机器不会负责。”
苏晓抬头看他,眼神里有一点疲惫,也有一点亮:“这句话你说过很多次。”
“老周说的。”
“现在是你在用。”
林凡一时没接话。面馆老板把一碟醋放错到他们桌上,问:“你们要不要?”
苏晓看着那碟醋,说:“要吧。”
林凡说:“为什么?”
“谈这种东西,不吃点酸的压不住。”
林凡笑了,把醋倒进面里。
他们把证据分成四类:第一类是技术偏差,模型如何学习代理变量;第二类是流程缺口,人工复核和暂停机制如何被省掉;第三类是组织改写,报告如何把风险改名成体验;第四类是平台集中,许既明收购后这些问题可能如何被放大。
苏晓说:“不能写成反技术。那会被他们轻易反击。”
林凡说:“也不能写成情绪控诉。”
“要写机制。”
“写具体人怎么被影响。”
“写谁知道。”
“写谁能停。”
“写停了谁负责。”
两个人几乎同时说出最后一句,随后都愣了一下。
苏晓低头笑:“看来你那本黑色笔记本挺有用。”
林凡说:“要不要授权你看?”
“先不用。”苏晓把一份表格推给他,“我怕你里面写了太多张磊语录,影响我专业判断。”
林凡说:“张磊语录偶尔能直达本质。”
“比如?”
“低价值交互,就是你别烦我。”
苏晓认真想了想:“这句可以。”
面吃到一半,苏晓手机响了。她看了一眼,是马经理。她没有接,等铃声停下。过了几秒,对方发来消息:自查报告明早要给领导看,积极表述部分再强化一下。
苏晓把手机扣在桌上。
林凡问:“麻烦?”
“日常。”苏晓说,“他们希望我把问题写成态度。”
林凡说:“我们把态度写回问题。”
这句话有点绕,但苏晓听懂了。她拿出一张空白纸,在顶端写下临时标题:关于自动化决策系统中弱势群体风险放大的观察。
林凡看着标题:“很正式。”
苏晓说:“正式一点,才不容易被说成情绪。”
“那副标题呢?”
苏晓想了想,写:错了谁知道,谁能停,停了谁负责。
林凡看着那行字,心里忽然很安静。外面骑手还在催单,隔壁桌还在谈离婚,老板还在喊二两加辣。世界没有因为他们共享证据就变得庄严,可某些事情就是在这样不庄严的地方开始的。
他们没有击掌,也没有说什么“从今天起并肩作战”。两个人只是把表格一份份整理好,把文件名改得更清楚,把可以公开和不能公开的部分分开放,把彼此的联系方式从聊天软件扩展到备用邮箱。
离开面馆时,苏晓拎着电脑包,忽然说:“林凡,我不想把这件事做成个人英雄。”
林凡说:“我也不想。”
“那就做成很多人能看懂、能接着用的东西。”
“具体,是对抗模板的最低成本。”
苏晓看了他一眼:“这句也可以。”
林凡笑:“我最近合格率挺高。”
苏晓走到路口,回头说:“别骄傲,下一版我会改很狠。”
林凡说:“欢迎。”
红灯变绿。人流往前走,他们各自转向不同方向。林凡把那张临时标题拍照发给老周。老周过了很久才回:
别急着赢,先确保输的时候证据还在。
林凡看着消息,把手机放回口袋。证据在。人也还在。对于一个越来越喜欢让人下线的时代,这已经是一个不小的开始。
不适合的原因很简单:太吵。老板在后厨吼“二两加辣”,隔壁桌大哥一边吸面一边谈离婚,门口外卖骑手进进出出,塑料门帘被掀得哗啦响。可也正因为太吵,它又很适合。真正的秘密有时候不怕安静,怕的是安静里每一句话都显得可疑。
苏晓到的时候,林凡已经点了两碗牛肉面,外加一盘拍黄瓜。
她坐下,看了一眼桌面:“你谈证据链还点拍黄瓜?”
林凡说:“张磊说重大会议要有凉菜,显得流程完整。”
苏晓把电脑包放到椅子旁,笑了一下:“他最近还在找工作?”
“被 AI 面试判定情绪稳定性一般。”
“准确吗?”
“比较准确。”
两个人笑完,面上来了。热气把电脑屏幕边缘熏得发白,林凡赶紧把电脑往旁边挪。苏晓从包里拿出一个移动硬盘和三份纸质表格,动作很稳,像医生摆手术器械。
“我先说边界。”苏晓压低声音,“这些不是公司机密的原始数据,我做了脱敏。能公开的,是规则变化、报告版本差异、风险等级修改轨迹。不能公开的,我只给你看结构,不给具体客户。”
林凡点头:“我这边也是。客户数据全部匿名,只保留模型配置、日志时间、异常分布和处置流程。”
苏晓看着他:“你准备得挺专业。”
林凡说:“怕你骂我。”
“我一般不骂准备充分的人。”
“那我安全了。”
他们开始对表。林凡的招聘系统事故里,岗位画像把“头部资源经历”权重拉高,导致普通院校候选人被批量压低。苏晓的金融风控案例里,模型把“收入不稳定”“社保断缴”“居住地址频繁变化”当成高风险信号,最后让本来就更脆弱的人更难获得服务。慧账宝的投诉里,个体商户的小额异常被自动归类为“经营波动”,申诉入口藏得很深。
这些事情看起来不一样:招聘、贷款、财务、客服。可把表格排在一起后,某种相似性露出来了。系统都没有直接写“不要普通人”,它们只是更偏爱已经被资源照亮的人;系统也没有说“弱者活该”,它们只是把弱者生活里的不稳定,翻译成了风险。
苏晓用笔圈出几行:“这里,代理变量。”
林凡接上:“这里,人工复核缺失。”
“这里,申诉入口不可达。”
“这里,责任人写的是系统自动决策。”
苏晓停笔:“系统自动决策不能当责任人。”
林凡说:“机器不会负责。”
苏晓抬头看他,眼神里有一点疲惫,也有一点亮:“这句话你说过很多次。”
“老周说的。”
“现在是你在用。”
林凡一时没接话。面馆老板把一碟醋放错到他们桌上,问:“你们要不要?”
苏晓看着那碟醋,说:“要吧。”
林凡说:“为什么?”
“谈这种东西,不吃点酸的压不住。”
林凡笑了,把醋倒进面里。
他们把证据分成四类:第一类是技术偏差,模型如何学习代理变量;第二类是流程缺口,人工复核和暂停机制如何被省掉;第三类是组织改写,报告如何把风险改名成体验;第四类是平台集中,许既明收购后这些问题可能如何被放大。
苏晓说:“不能写成反技术。那会被他们轻易反击。”
林凡说:“也不能写成情绪控诉。”
“要写机制。”
“写具体人怎么被影响。”
“写谁知道。”
“写谁能停。”
“写停了谁负责。”
两个人几乎同时说出最后一句,随后都愣了一下。
苏晓低头笑:“看来你那本黑色笔记本挺有用。”
林凡说:“要不要授权你看?”
“先不用。”苏晓把一份表格推给他,“我怕你里面写了太多张磊语录,影响我专业判断。”
林凡说:“张磊语录偶尔能直达本质。”
“比如?”
“低价值交互,就是你别烦我。”
苏晓认真想了想:“这句可以。”
面吃到一半,苏晓手机响了。她看了一眼,是马经理。她没有接,等铃声停下。过了几秒,对方发来消息:自查报告明早要给领导看,积极表述部分再强化一下。
苏晓把手机扣在桌上。
林凡问:“麻烦?”
“日常。”苏晓说,“他们希望我把问题写成态度。”
林凡说:“我们把态度写回问题。”
这句话有点绕,但苏晓听懂了。她拿出一张空白纸,在顶端写下临时标题:关于自动化决策系统中弱势群体风险放大的观察。
林凡看着标题:“很正式。”
苏晓说:“正式一点,才不容易被说成情绪。”
“那副标题呢?”
苏晓想了想,写:错了谁知道,谁能停,停了谁负责。
林凡看着那行字,心里忽然很安静。外面骑手还在催单,隔壁桌还在谈离婚,老板还在喊二两加辣。世界没有因为他们共享证据就变得庄严,可某些事情就是在这样不庄严的地方开始的。
他们没有击掌,也没有说什么“从今天起并肩作战”。两个人只是把表格一份份整理好,把文件名改得更清楚,把可以公开和不能公开的部分分开放,把彼此的联系方式从聊天软件扩展到备用邮箱。
离开面馆时,苏晓拎着电脑包,忽然说:“林凡,我不想把这件事做成个人英雄。”
林凡说:“我也不想。”
“那就做成很多人能看懂、能接着用的东西。”
“具体,是对抗模板的最低成本。”
苏晓看了他一眼:“这句也可以。”
林凡笑:“我最近合格率挺高。”
苏晓走到路口,回头说:“别骄傲,下一版我会改很狠。”
林凡说:“欢迎。”
红灯变绿。人流往前走,他们各自转向不同方向。林凡把那张临时标题拍照发给老周。老周过了很久才回:
别急着赢,先确保输的时候证据还在。
林凡看着消息,把手机放回口袋。证据在。人也还在。对于一个越来越喜欢让人下线的时代,这已经是一个不小的开始。