下书看 > 人工不智能:AI狂飙三十年 > 第383章 苏晓提交透明化框架

人工不智能:AI狂飙三十年 第383章 苏晓提交透明化框架

    苏晓写透明化框架时,房间里最好没人说废话。

    张磊一开始不知道,坐在旁边边吃馄饨边问:“透明化框架这个标题能不能改得亲切点,比如《别把锅藏在黑箱里》?”

    苏晓抬头看他。

    张磊立刻端着碗挪到三米外:“我去远方支持你。”

    透明化框架不是一份普通报告。它要提交给国际会谈工作组,也要供国内监管使用。写得太抽象,会被平台方拿去当装饰;写得太激烈,会被说成不懂技术;写得太细,又可能被商业机密挡回来。苏晓必须把刀口卡在刚好能切开的地方。

    她把框架分成五层。

    第一层,事件级透明。只要系统建议影响到人的生命安全、权利资格、风险标签、群体处置或公共服务结果,受影响者有权知道基本原因、责任主体和申诉路径。

    第二层,监管级透明。监管机构有权调取必要日志、目标函数摘要、约束条件、人工介入记录和降级决策,不得以商业机密作绝对拒绝。

    第三层,审计级透明。独立审计方必须能还原高影响事件的决策链,包括数据输入、规则翻译、模型输出、人工确认与最终执行。

    第四层,公众级透明。平台和部署方应定期发布高影响系统运行报告,不能只报成功率,也要报异常、人工承接、申诉纠错和未能处理的例外。

    第五层,救济级透明。用户不能被迫理解供应链。任何受影响者都应有一个明确可达的人工窗口,由该窗口内部协调责任方,而不是把人踢给模型方、平台方、运营方、现场方来回跑。

    五层之外,苏晓又加了一个“禁止性清单”。张磊听到这个名字,立刻说这听起来像林姨的厨房规矩。苏晓没理他,逐条写下:禁止以用户未阅读复杂条款为由免除高影响系统的基本解释义务;禁止在公共服务中默认用户具有稳定设备、稳定网络和专业理解能力;禁止把申诉入口设计成实际不可达;禁止用自动客服处理自动客服造成的重大错误。

    最后这条写完,张磊鼓掌:“禁止套娃。”

    苏晓把“禁止套娃”翻成正式表述:救济流程不得仅由同类自动化系统闭环处理。

    张磊看了看:“你赢了。你把我的灵魂做成了合规条款。”

    张磊听到最后一层,忍不住说:“这就是别让老百姓自己找锅。”

    苏晓没有抬头:“这句写进公众版。”

    她继续写。每一层后面都加了“不得”。不得用“仅供参考”免除事实影响,不得用“综合评估”替代基本解释,不得用“用户未配合”掩盖系统不可达,不得把人工介入单纯计为效率损耗,不得把商业机密作为公共安全审计的绝对屏障。

    林凡看着她的草稿,想起老周说她适合写规矩,刀口窄,割得准。

    苏晓写到凌晨四点。林桂兰中途来送热粥,看见她眼睛都不眨,忍不住说:“你个写法像在给系统立家规。”

    苏晓揉了揉眼睛:“差不多。”

    “那得加一条,不许欺负不会说话的人。”

    苏晓停住。

    她把这句话翻成正式条款:

    系统不得因用户表达能力、设备能力、申诉能力不足而降低其获得公共服务与救济的机会。

    林桂兰看了一眼:“你个翻译有点长。”

    “但能进文件。”

    “那行。”

    第二天,苏晓提交框架初稿。国际工作组很快反馈。公益组织代表支持,几个城市监管方认为可操作,平台方则提出强烈保留,尤其反对“监管级透明不得以商业机密作绝对拒绝”。

    平台联盟顾问说:“这会导致企业失去核心竞争优势。”

    苏晓在会上回应:“公共高影响系统不是普通消费产品。企业可以保留竞争优势,但不能把公众伤害也包装成竞争优势的一部分。透明化不是要求所有代码公开,而是要求影响人的决策链可以被追责。”

    她说话时语速不快,语气也不高,却让对方很难插话。因为每一句都落在具体边界上。

    一个南美城市代表问:“如果企业拒绝提供必要日志怎么办?”

    苏晓说:“那系统不得继续承担高影响公共决策角色。不能证明可审计,就不能要求公众相信。”

    这句话被多个代表转发。

    会后,一个移民公益律师给苏晓发来私信,说他们那里很多申请者不是不想申诉,而是申诉页面本身需要填写平台工单编号,可自动客服从不提供编号。苏晓把这个例子补进框架注释:申诉入口不得要求用户提供其无从获得的信息。张磊看到这句,翻译成“别让人用没给过的钥匙开门”。这次苏晓没有删,因为这句正好能让公众版读懂。林桂兰看完也点头:“这才像门口能贴的话。”

    张磊在人话版材料里把它翻成:

    不让查,就别上路。

    陈主任看完,沉默几秒:“有点像交通标语。”

    张磊问:“不好吗?”

    “挺好。”

    框架提交后,苏晓没有庆祝。她只是靠在椅背上,闭眼休息了五分钟。五分钟后,又打开林凡的证据链草稿,开始挑错。

    林凡说:“你不睡?”

    “睡醒再挑,你会多写三页情绪。”

    张磊在远处小声说:“苏晓连休息都带攻击性。”

    林桂兰把一张红纸贴到互助站里侧:

    看得见,才追得上。

    苏晓看到后,拿笔在下面加了一行小字:

    追得上,才改得了。

    那张纸后来被拍进了会议材料的公众版封面。有人说它不够正式,陈主任说,正式文件已经够多了,需要一张能让人看懂的纸。