人工不智能:AI狂飙三十年 第229章 企业集体喊冤
企业集体喊冤,是在条例发布后的第四十八小时开始的。
先是行业协会发了一份倡议书,标题很长:《关于理性看待高影响算法治理成本、共同维护创新活力的建议》。磊磊看到标题第一眼,就说:“这标题已经累到创新活力了。”
倡议书里写,企业坚决支持监管,坚决保护用户权益,坚决反对滥用 AI。但紧接着又说,新规落地需要充分考虑企业实际负担,避免一刀切,避免过度合规挤压创新空间,避免中小企业因审计、留痕、人工复核成本过高而退出市场。
何苗拿着笔划重点:“三个坚决,三个避免。情绪很稳定,算盘也很稳定。”
老周说:“别光笑。里面有真问题,也有假委屈。”
真问题很快摆到云启未来桌上。几个客户同时要求合规整改报价,又同时嫌报价太高。有人说暂停权要做,但按钮最好别影响生产;解释权要有,但说明不能泄露商业逻辑;日志要留,但存储成本不能增加;人工复核要配,但人工最好由系统自动承担。磊磊听完,认真问:“他们是不是想雇一个不吃饭、不睡觉、不领工资、还能背锅的人工?”
顾启明说:“那叫预算里的人工。”
云启未来也不轻松。新规让他们有了业务机会,也让他们被夹在客户、监管和供应商中间。顾启明每天接电话接到嗓子哑,有客户抱怨你们以前怎么没提醒,有客户抱怨你们提醒得太多,还有客户说如果整改成本超过预算,不如先暂停项目。磊磊总结:“以前大家嫌风险看不见,现在风险开灯了,大家嫌电费贵。”
林凡没有笑太久。企业成本不是假的。人工复核要人,日志留存要钱,审计接口要开发,暂停按钮要改流程。中小企业没有星穹那种资源,有些真的会被合规成本压得喘不过气。可问题是,过去那些成本并没有消失,只是转嫁给了蒋明、魏海、陈姐、林桂兰、小孟、小贺这些人。现在条例只是把一部分成本从受害者身上搬回企业账本,企业当然觉得重。
苏晓说:“喊冤可以,先把账算全。”
何苗把这句话写下来,准备做一篇人话版分析。她把企业喊冤分成三类:第一类是真困难,合规成本高,需要过渡期和公共支持;第二类是假困难,过去靠模糊责任赚钱,现在不让模糊就说活不下去;第三类是混合型,一边确实缺资源,一边又想借缺资源逃避基本义务。
磊磊问:“云启未来是哪类?”
会议室忽然安静。
顾启明看了他一眼:“混合型。”
这个回答让大家都愣了。顾启明苦笑:“别这么看我。公司既缺资源,也不想被责任压死。有时候我也会本能地想往后退。区别只在于,退到哪里算求生,退到哪里算装傻。”
老周点头:“这句比很多老板发言实在。”
企业喊冤的高潮,是一场线上圆桌论坛。标题叫“创新与责任如何平衡”。许既明参加,几家平台高管参加,顾启明也被邀请。主持人一开场就说,技术创新正在遭遇前所未有的合规挑战。磊磊看直播时捧着泡面,评价:“这开场像创新被合规绑架了,其实合规只是让它穿裤子。”
论坛上,各家企业说法很统一。星穹说基础设施承担审计义务没问题,但应防止审计要求过度细化导致模型安全风险;广告平台说场景包治理没问题,但用户个性化体验可能因此下降;金融机构说解释权没问题,但过度解释可能被恶意用户钻空子;工业企业说暂停权没问题,但频繁暂停会影响安全生产本身。
每句话都不是完全错。也正因为不是完全错,才难办。
苏晓边听边记:“他们在把底线问题谈成边界问题。底线是不能删日志、不能不给解释、不能让人没法暂停。边界是解释到什么程度、暂停怎么触发、审计谁来看。不能用边界困难否定底线。”
林凡点头。技术治理最容易被拖进无穷细节里。只要企业不断问“解释到多少算够”“暂停几次算过度”“审计权限多大算安全”,底线就会被拖成会议纪要里的下一步研究。
林桂兰在社区活动室也看了论坛片段。看到某位高管说“企业也是受害者,承担了巨大舆论压力”,她直接把视频暂停:“他受害什么?受害于大家终于问他了?”
活动室大爷大妈笑成一片。一个大爷说:“他要是觉得压力大,让他来跟我一起学截图。”
林桂兰说:“不行,他学会截图就会说截图成本高。”
这段话被磊磊整理进“社区版条例解读”,标题叫《企业喊冤,我们也听,但不能只听》。他在文里写:企业有困难,可以说;用户有损失,也要说;员工有压力,也要说。不能谁麦克风大,谁就冤得更响。
何苗看完,难得没有大改,只删掉一句“麦克风大不代表嗓子疼”。磊磊很心疼:“这句多好。”
“太像脱口秀。”
“我们不是爆笑现实主义吗?”
“现实主义先,爆笑后。”
企业集体喊冤带来的另一个后果,是技术从业者开始焦虑。云启未来内部群里,有人说合规项目太多,开发压力翻倍;有人说以后工程师都要变成背锅预备役;有人说新规会让创新变慢,饭碗变少。那种被技术和责任一起夹住的阴影,已经提前冒了出来。
林凡在群里看了很久,最后发了一句:合规不是让工程师背更多锅,而是让锅有正确的归属。现在难,是因为过去很多责任没有被设计进系统。
有人回:说得好,但工期还是我们加班。
林凡回:所以整改也要写进预算和排期,不能只写进价值观。
磊磊看到后说:“林凡现在发言越来越像能活到管理层的人。”
林凡说:“别咒我。”
论坛结束时,许既明说了一句很漂亮的话:行业需要在责任中继续前进,而不是在恐惧中停止创新。弹幕里一片赞同。林凡看着这句话,忽然觉得它可以成立,也可以被滥用。责任中的前进很好,问题是谁来定义责任,谁来承担恐惧。蒋明的恐惧不是行业评论,蒋芸的恐惧不是创新成本,林桂兰买米时的警惕不是过度合规。
晚上,白板上写:
企业集体喊冤。
何苗写:
真困难要解决,假委屈要拆穿。
苏晓写:
不能用边界困难否定底线。
老周写:
过去省下的钱,常常是别人替你付的代价。
林桂兰写:
谁麦克风大,谁不一定最冤。
磊磊最后偷偷把被删的那句又写上:
麦克风大不代表嗓子疼。
何苗看见后举起板擦。磊磊立刻护住白板:“群众语言也是证据!”
老周说:“留着吧。至少比论坛标题短。”
林凡看着白板,心里有一种新的复杂感。黑箱乱飞那段时间走到这里,坏人不再只有坏人的脸,好人也不总有余力,企业不是全都邪恶,监管不是万能解药,技术不是天然清白。每个人都在喊自己的难。可越是这样,越需要有人把账算清:谁的难是成本,谁的难是伤害;谁在求生,谁在转嫁;谁真的快活不下去,谁只是活不成以前那种不负责的样子。
先是行业协会发了一份倡议书,标题很长:《关于理性看待高影响算法治理成本、共同维护创新活力的建议》。磊磊看到标题第一眼,就说:“这标题已经累到创新活力了。”
倡议书里写,企业坚决支持监管,坚决保护用户权益,坚决反对滥用 AI。但紧接着又说,新规落地需要充分考虑企业实际负担,避免一刀切,避免过度合规挤压创新空间,避免中小企业因审计、留痕、人工复核成本过高而退出市场。
何苗拿着笔划重点:“三个坚决,三个避免。情绪很稳定,算盘也很稳定。”
老周说:“别光笑。里面有真问题,也有假委屈。”
真问题很快摆到云启未来桌上。几个客户同时要求合规整改报价,又同时嫌报价太高。有人说暂停权要做,但按钮最好别影响生产;解释权要有,但说明不能泄露商业逻辑;日志要留,但存储成本不能增加;人工复核要配,但人工最好由系统自动承担。磊磊听完,认真问:“他们是不是想雇一个不吃饭、不睡觉、不领工资、还能背锅的人工?”
顾启明说:“那叫预算里的人工。”
云启未来也不轻松。新规让他们有了业务机会,也让他们被夹在客户、监管和供应商中间。顾启明每天接电话接到嗓子哑,有客户抱怨你们以前怎么没提醒,有客户抱怨你们提醒得太多,还有客户说如果整改成本超过预算,不如先暂停项目。磊磊总结:“以前大家嫌风险看不见,现在风险开灯了,大家嫌电费贵。”
林凡没有笑太久。企业成本不是假的。人工复核要人,日志留存要钱,审计接口要开发,暂停按钮要改流程。中小企业没有星穹那种资源,有些真的会被合规成本压得喘不过气。可问题是,过去那些成本并没有消失,只是转嫁给了蒋明、魏海、陈姐、林桂兰、小孟、小贺这些人。现在条例只是把一部分成本从受害者身上搬回企业账本,企业当然觉得重。
苏晓说:“喊冤可以,先把账算全。”
何苗把这句话写下来,准备做一篇人话版分析。她把企业喊冤分成三类:第一类是真困难,合规成本高,需要过渡期和公共支持;第二类是假困难,过去靠模糊责任赚钱,现在不让模糊就说活不下去;第三类是混合型,一边确实缺资源,一边又想借缺资源逃避基本义务。
磊磊问:“云启未来是哪类?”
会议室忽然安静。
顾启明看了他一眼:“混合型。”
这个回答让大家都愣了。顾启明苦笑:“别这么看我。公司既缺资源,也不想被责任压死。有时候我也会本能地想往后退。区别只在于,退到哪里算求生,退到哪里算装傻。”
老周点头:“这句比很多老板发言实在。”
企业喊冤的高潮,是一场线上圆桌论坛。标题叫“创新与责任如何平衡”。许既明参加,几家平台高管参加,顾启明也被邀请。主持人一开场就说,技术创新正在遭遇前所未有的合规挑战。磊磊看直播时捧着泡面,评价:“这开场像创新被合规绑架了,其实合规只是让它穿裤子。”
论坛上,各家企业说法很统一。星穹说基础设施承担审计义务没问题,但应防止审计要求过度细化导致模型安全风险;广告平台说场景包治理没问题,但用户个性化体验可能因此下降;金融机构说解释权没问题,但过度解释可能被恶意用户钻空子;工业企业说暂停权没问题,但频繁暂停会影响安全生产本身。
每句话都不是完全错。也正因为不是完全错,才难办。
苏晓边听边记:“他们在把底线问题谈成边界问题。底线是不能删日志、不能不给解释、不能让人没法暂停。边界是解释到什么程度、暂停怎么触发、审计谁来看。不能用边界困难否定底线。”
林凡点头。技术治理最容易被拖进无穷细节里。只要企业不断问“解释到多少算够”“暂停几次算过度”“审计权限多大算安全”,底线就会被拖成会议纪要里的下一步研究。
林桂兰在社区活动室也看了论坛片段。看到某位高管说“企业也是受害者,承担了巨大舆论压力”,她直接把视频暂停:“他受害什么?受害于大家终于问他了?”
活动室大爷大妈笑成一片。一个大爷说:“他要是觉得压力大,让他来跟我一起学截图。”
林桂兰说:“不行,他学会截图就会说截图成本高。”
这段话被磊磊整理进“社区版条例解读”,标题叫《企业喊冤,我们也听,但不能只听》。他在文里写:企业有困难,可以说;用户有损失,也要说;员工有压力,也要说。不能谁麦克风大,谁就冤得更响。
何苗看完,难得没有大改,只删掉一句“麦克风大不代表嗓子疼”。磊磊很心疼:“这句多好。”
“太像脱口秀。”
“我们不是爆笑现实主义吗?”
“现实主义先,爆笑后。”
企业集体喊冤带来的另一个后果,是技术从业者开始焦虑。云启未来内部群里,有人说合规项目太多,开发压力翻倍;有人说以后工程师都要变成背锅预备役;有人说新规会让创新变慢,饭碗变少。那种被技术和责任一起夹住的阴影,已经提前冒了出来。
林凡在群里看了很久,最后发了一句:合规不是让工程师背更多锅,而是让锅有正确的归属。现在难,是因为过去很多责任没有被设计进系统。
有人回:说得好,但工期还是我们加班。
林凡回:所以整改也要写进预算和排期,不能只写进价值观。
磊磊看到后说:“林凡现在发言越来越像能活到管理层的人。”
林凡说:“别咒我。”
论坛结束时,许既明说了一句很漂亮的话:行业需要在责任中继续前进,而不是在恐惧中停止创新。弹幕里一片赞同。林凡看着这句话,忽然觉得它可以成立,也可以被滥用。责任中的前进很好,问题是谁来定义责任,谁来承担恐惧。蒋明的恐惧不是行业评论,蒋芸的恐惧不是创新成本,林桂兰买米时的警惕不是过度合规。
晚上,白板上写:
企业集体喊冤。
何苗写:
真困难要解决,假委屈要拆穿。
苏晓写:
不能用边界困难否定底线。
老周写:
过去省下的钱,常常是别人替你付的代价。
林桂兰写:
谁麦克风大,谁不一定最冤。
磊磊最后偷偷把被删的那句又写上:
麦克风大不代表嗓子疼。
何苗看见后举起板擦。磊磊立刻护住白板:“群众语言也是证据!”
老周说:“留着吧。至少比论坛标题短。”
林凡看着白板,心里有一种新的复杂感。黑箱乱飞那段时间走到这里,坏人不再只有坏人的脸,好人也不总有余力,企业不是全都邪恶,监管不是万能解药,技术不是天然清白。每个人都在喊自己的难。可越是这样,越需要有人把账算清:谁的难是成本,谁的难是伤害;谁在求生,谁在转嫁;谁真的快活不下去,谁只是活不成以前那种不负责的样子。