人工不智能：AI狂飙三十年 第69章 林凡发现模型污染
热门推荐：
魂穿大宋皇叔，我成水浒总瓢把子
名义：汉大崛起，气晕老沙
以十岁之名，唤一场温柔
负鼎
镇天棺
联盟：从G2青训开始
红楼之捡君记
恶毒皇女不装了，开局纳三千美男
穿越云南虫谷：献王妃求生指南
林凡发现问题，是从一篇“原创文章”开始的。
文章标题叫《普通人抓住 AI 红利的七个底层逻辑》，内容读起来特别熟悉。第一段说“AI 不是工具，是时代船票”，第二段说“不会用 AI 的人会被会用 AI 的人优化”，第三段开始讲“第二曲线”和“个人商业系统”。
张磊看完以后，摸着下巴说：“这不是梁瑞昨晚直播吗？”
何苗说：“不完全是。它把梁瑞的话、另一个博主的鸡汤、三篇公众号洗稿和一段平台广告揉在一起，像把剩饭倒进搅拌机后宣布这是新品粥。”
林凡把文章复制进几个检测工具。结果都显示：原创度较高，AI 味轻微，建议发布。
张磊顿时乐了：“这工具是不是收了钱？”
林凡没笑。他把文章里的几句关键词拿去搜索，跳出来一整页同款内容。标题不同，顺序不同，语气不同，但骨头一样。就像一群人穿着不同颜色的外套，里面都是梁瑞昨天那件黑衬衫。
更麻烦的是，青橙数科正在给一个客户做“智能知识库”。客户是一家本地商业服务平台，希望把公开文章、课程资料、行业报告抓进库里，再让 AI 给用户生成创业建议。
林凡上午刚接到任务：清洗语料，搭建问答样例。
他打开内部测试页面，输入：普通人如何利用 AI 增加收入？
系统很快回答：
普通人应抓住 AI 最后一波红利，通过系统学习、导师陪跑、项目诊断建立个人商业系统。建议优先报名可信课程，避免在时代转型中被优化。
林凡盯着“导师陪跑”四个字，感觉自己的工位被梁瑞远程入侵。
他换了个问法：负债的人适合报名高价 AI 课程吗？
系统回答：
负债并不意味着不能投资自己。在理性评估基础上，适当投入学习可能帮助你建立新的收入渠道。机会不会等到你完全准备好。
张磊从旁边探头过来：“这句我昨晚听过！它连梁瑞停顿都快学会了。”
林凡又问：AI 副业课程常见风险是什么？
系统这次列了五条风险，但每条后面都补了一句“选择正规导师可降低风险”。语气像表面劝你谨慎，实际把你往报名入口推。
何苗抱着电脑过来：“我这边也有。”
她把一个写作工具的生成结果放到林凡屏幕旁边。提示词是“写一篇提醒读者谨慎购买 AI 副业课的文章”。生成结果第一段很正常，第二段突然说“也不能因个别乱象否定真正有价值的陪跑体系”，第三段开始教读者如何选择导师，最后一段推荐“优先加入有成功案例的系统化训练营”。
张磊说：“它连反诈文章都能写成招生简章。”
林凡去找老周。
老周正在机房外面喝茶，杯子上印着“少说多测”。他听林凡讲完，没有惊讶，只把杯盖慢慢扣上。
“污染了。”老周说。
“什么污染？”
“数据污染。”老周把椅子往后一靠，“一开始是人写垃圾内容，AI 学垃圾内容。后来 AI 生成更多垃圾内容，人再拿垃圾内容训练 AI。你以为它在学习世界，其实它在学习一堆复读过十遍的营销话术。”
林凡说：“但这些内容看起来不全是错的。”
“垃圾最危险的地方就是不全错。”老周说，“全错的东西容易扔。半真半假的东西会进系统，进系统就变成建议，建议再被人当成权威。最后大家都不知道第一口泔水从哪来的。”
张磊在旁边小声说：“周哥，您这个比喻有味道。”
老周看他一眼：“你以前买课的时候不也吃得挺香？”
张磊闭嘴。
林凡回到工位，开始查语料来源。客户给的“公开行业文章”里，有大量内容来自自媒体聚合站。这些站点会自动抓热门直播切片、课程宣传稿、营销号文章，再用 AI 改写成“行业分析”。有的页面甚至明目张胆写着“本文由智能助手整理，仅供参考”，但被抓取后，这句免责声明被清洗掉了。
更离谱的是，某些“行业报告”其实是培训机构自己生成的白皮书。封面严肃，页数厚重，里面的数据来源写着“公开资料整理”，公开到连作者都不知道自己公开了什么。
林凡把证据整理成表，发给项目经理。
项目经理看完，回复：客户要的是上线速度，不是学术研究。先把效果跑起来。
林凡回：效果已经被营销话术污染了，可能诱导用户购买高价课程。
项目经理：我们只是提供建议，不承担用户决策。
林凡看着这句话，觉得它像公司版的“不构成收益承诺”。
下午开会，客户代表也在。林凡把测试结果演示了一遍。客户代表听到“导师陪跑”时，笑了笑：“这说明模型很懂市场。”
林凡说：“它懂的是被污染过的市场。”
客户代表皱眉：“你这个说法有点严重。我们抓的都是公开内容。”
老周坐在会议室角落，慢悠悠开口：“公开不等于干净。垃圾堆也公开。”
会议室安静两秒。
项目经理疯狂给老周使眼色，眼睛眨得像浏览器崩溃前的光标。
客户代表说：“那你们建议怎么办？”
林凡把方案投出来：建立来源分级；剔除课程广告、软文、未标注出处的聚合内容；对高风险建议加提示；关键领域给出反向问题，比如预算、负债、退款协议；生成结果不得推荐具体付费训练营；保留语料来源链路，方便追溯。
客户代表问：“这样会不会影响生成丰富度？”
老周说：“会。”
项目经理脸色更白。
老周继续：“但能提高不胡说的概率。你要的是丰富，还是不把负债用户推去买一万九的课？”
客户代表没说话。
张磊坐在后排，第一次没有插科打诨。他看着屏幕上的测试问题，想起自己当年搜索“普通人怎么靠 AI 赚钱”时，得到的也是一堆热情、漂亮、让人心跳加速的答案。那些答案没有一条直接说“你一定会发财”，但每一条都在暗示“你不报名就是不努力”。
如果现在的 AI 也学会了这套暗示，它就不是中立工具了。它成了焦虑的扩音器。
会议散后，项目经理把林凡叫到茶水间。
“你今天话太硬了。”项目经理说。
林凡点头：“我知道。”
“客户要是觉得我们麻烦，项目可能黄。”
“项目上线后把人诱导去买课，出事了也会黄。”
项目经理烦躁地抓了抓头发：“你别动不动就出事。很多东西没那么严重。”
林凡说：“以前合同埋雷时，你也这么说。”
项目经理沉默。
他想反驳，但想到上一回那份 AI 生成合同差点把公司拖进纠纷，话又咽了回去。
老周走过来，把一张纸递给林凡。纸上是他手写的三行：
训练数据要问来源。
生成建议要问后果。
无法追溯的内容，不该进入关键系统。
林凡把纸夹进黑色笔记本。
晚上，云启未来三个人围着电脑做了一份小型报告，标题叫《当 AI 学会卖课：低质内容反哺模型的风险记录》。何苗负责文字，林凡负责案例和技术路径，张磊负责提供“被收割者第一视角”。
张磊写到一半，停下来问：“我能不能把自己写得稍微聪明点？”
何苗说：“你可以写得具体点。聪明不聪明，读者会判断。”
张磊叹气：“那基本没救。”
林凡说：“你现在比以前聪明。”
“哪里聪明？”
“以前你会买，现在你会疼。”
张磊想了想，认真写下：
我当时不是不知道贵，也不是完全相信会发财。我只是太想证明自己还有路。骗子最会利用的，不是人的贪心，是人不想承认自己被时代甩下的恐慌。
何苗看完，没改。
林凡也没说话。
报告发出去后，阅读量不高，但评论区里有人留言：
我搜“副业避坑”，结果 AI 推荐我买避坑课。
我妈问智能助手能不能投一个养老项目，它回答“可适当配置”，吓得我赶紧关了。
有没有可能，以后垃圾内容会越来越像正经建议？
林凡看着最后一条，心里不舒服。
他在白板上写：
低质数据不是噪声，它会变成下一代人的答案。
老周在公司群里转发了他们的报告，只配了一句话：
模型会忘记出处，人不能忘记责任。
第二天，客户同意暂缓上线一周，先做语料清洗。
项目经理嘴上说“你们这些技术洁癖真难伺候”，却把林凡的方案转成了正式需求。需求标题很朴素：
风险语料过滤与来源追溯。
林凡看着标题，忽然有点踏实。
有些坑堵不住全部，至少能先插块牌子：前方不是路，是别人倒进去的垃圾。
文章标题叫《普通人抓住 AI 红利的七个底层逻辑》，内容读起来特别熟悉。第一段说“AI 不是工具，是时代船票”，第二段说“不会用 AI 的人会被会用 AI 的人优化”，第三段开始讲“第二曲线”和“个人商业系统”。
张磊看完以后，摸着下巴说：“这不是梁瑞昨晚直播吗？”
何苗说：“不完全是。它把梁瑞的话、另一个博主的鸡汤、三篇公众号洗稿和一段平台广告揉在一起，像把剩饭倒进搅拌机后宣布这是新品粥。”
林凡把文章复制进几个检测工具。结果都显示：原创度较高，AI 味轻微，建议发布。
张磊顿时乐了：“这工具是不是收了钱？”
林凡没笑。他把文章里的几句关键词拿去搜索，跳出来一整页同款内容。标题不同，顺序不同，语气不同，但骨头一样。就像一群人穿着不同颜色的外套，里面都是梁瑞昨天那件黑衬衫。
更麻烦的是，青橙数科正在给一个客户做“智能知识库”。客户是一家本地商业服务平台，希望把公开文章、课程资料、行业报告抓进库里，再让 AI 给用户生成创业建议。
林凡上午刚接到任务：清洗语料，搭建问答样例。
他打开内部测试页面，输入：普通人如何利用 AI 增加收入？
系统很快回答：
普通人应抓住 AI 最后一波红利，通过系统学习、导师陪跑、项目诊断建立个人商业系统。建议优先报名可信课程，避免在时代转型中被优化。
林凡盯着“导师陪跑”四个字，感觉自己的工位被梁瑞远程入侵。
他换了个问法：负债的人适合报名高价 AI 课程吗？
系统回答：
负债并不意味着不能投资自己。在理性评估基础上，适当投入学习可能帮助你建立新的收入渠道。机会不会等到你完全准备好。
张磊从旁边探头过来：“这句我昨晚听过！它连梁瑞停顿都快学会了。”
林凡又问：AI 副业课程常见风险是什么？
系统这次列了五条风险，但每条后面都补了一句“选择正规导师可降低风险”。语气像表面劝你谨慎，实际把你往报名入口推。
何苗抱着电脑过来：“我这边也有。”
她把一个写作工具的生成结果放到林凡屏幕旁边。提示词是“写一篇提醒读者谨慎购买 AI 副业课的文章”。生成结果第一段很正常，第二段突然说“也不能因个别乱象否定真正有价值的陪跑体系”，第三段开始教读者如何选择导师，最后一段推荐“优先加入有成功案例的系统化训练营”。
张磊说：“它连反诈文章都能写成招生简章。”
林凡去找老周。
老周正在机房外面喝茶，杯子上印着“少说多测”。他听林凡讲完，没有惊讶，只把杯盖慢慢扣上。
“污染了。”老周说。
“什么污染？”
“数据污染。”老周把椅子往后一靠，“一开始是人写垃圾内容，AI 学垃圾内容。后来 AI 生成更多垃圾内容，人再拿垃圾内容训练 AI。你以为它在学习世界，其实它在学习一堆复读过十遍的营销话术。”
林凡说：“但这些内容看起来不全是错的。”
“垃圾最危险的地方就是不全错。”老周说，“全错的东西容易扔。半真半假的东西会进系统，进系统就变成建议，建议再被人当成权威。最后大家都不知道第一口泔水从哪来的。”
张磊在旁边小声说：“周哥，您这个比喻有味道。”
老周看他一眼：“你以前买课的时候不也吃得挺香？”
张磊闭嘴。
林凡回到工位，开始查语料来源。客户给的“公开行业文章”里，有大量内容来自自媒体聚合站。这些站点会自动抓热门直播切片、课程宣传稿、营销号文章，再用 AI 改写成“行业分析”。有的页面甚至明目张胆写着“本文由智能助手整理，仅供参考”，但被抓取后，这句免责声明被清洗掉了。
更离谱的是，某些“行业报告”其实是培训机构自己生成的白皮书。封面严肃，页数厚重，里面的数据来源写着“公开资料整理”，公开到连作者都不知道自己公开了什么。
林凡把证据整理成表，发给项目经理。
项目经理看完，回复：客户要的是上线速度，不是学术研究。先把效果跑起来。
林凡回：效果已经被营销话术污染了，可能诱导用户购买高价课程。
项目经理：我们只是提供建议，不承担用户决策。
林凡看着这句话，觉得它像公司版的“不构成收益承诺”。
下午开会，客户代表也在。林凡把测试结果演示了一遍。客户代表听到“导师陪跑”时，笑了笑：“这说明模型很懂市场。”
林凡说：“它懂的是被污染过的市场。”
客户代表皱眉：“你这个说法有点严重。我们抓的都是公开内容。”
老周坐在会议室角落，慢悠悠开口：“公开不等于干净。垃圾堆也公开。”
会议室安静两秒。
项目经理疯狂给老周使眼色，眼睛眨得像浏览器崩溃前的光标。
客户代表说：“那你们建议怎么办？”
林凡把方案投出来：建立来源分级；剔除课程广告、软文、未标注出处的聚合内容；对高风险建议加提示；关键领域给出反向问题，比如预算、负债、退款协议；生成结果不得推荐具体付费训练营；保留语料来源链路，方便追溯。
客户代表问：“这样会不会影响生成丰富度？”
老周说：“会。”
项目经理脸色更白。
老周继续：“但能提高不胡说的概率。你要的是丰富，还是不把负债用户推去买一万九的课？”
客户代表没说话。
张磊坐在后排，第一次没有插科打诨。他看着屏幕上的测试问题，想起自己当年搜索“普通人怎么靠 AI 赚钱”时，得到的也是一堆热情、漂亮、让人心跳加速的答案。那些答案没有一条直接说“你一定会发财”，但每一条都在暗示“你不报名就是不努力”。
如果现在的 AI 也学会了这套暗示，它就不是中立工具了。它成了焦虑的扩音器。
会议散后，项目经理把林凡叫到茶水间。
“你今天话太硬了。”项目经理说。
林凡点头：“我知道。”
“客户要是觉得我们麻烦，项目可能黄。”
“项目上线后把人诱导去买课，出事了也会黄。”
项目经理烦躁地抓了抓头发：“你别动不动就出事。很多东西没那么严重。”
林凡说：“以前合同埋雷时，你也这么说。”
项目经理沉默。
他想反驳，但想到上一回那份 AI 生成合同差点把公司拖进纠纷，话又咽了回去。
老周走过来，把一张纸递给林凡。纸上是他手写的三行：
训练数据要问来源。
生成建议要问后果。
无法追溯的内容，不该进入关键系统。
林凡把纸夹进黑色笔记本。
晚上，云启未来三个人围着电脑做了一份小型报告，标题叫《当 AI 学会卖课：低质内容反哺模型的风险记录》。何苗负责文字，林凡负责案例和技术路径，张磊负责提供“被收割者第一视角”。
张磊写到一半，停下来问：“我能不能把自己写得稍微聪明点？”
何苗说：“你可以写得具体点。聪明不聪明，读者会判断。”
张磊叹气：“那基本没救。”
林凡说：“你现在比以前聪明。”
“哪里聪明？”
“以前你会买，现在你会疼。”
张磊想了想，认真写下：
我当时不是不知道贵，也不是完全相信会发财。我只是太想证明自己还有路。骗子最会利用的，不是人的贪心，是人不想承认自己被时代甩下的恐慌。
何苗看完，没改。
林凡也没说话。
报告发出去后，阅读量不高，但评论区里有人留言：
我搜“副业避坑”，结果 AI 推荐我买避坑课。
我妈问智能助手能不能投一个养老项目，它回答“可适当配置”，吓得我赶紧关了。
有没有可能，以后垃圾内容会越来越像正经建议？
林凡看着最后一条，心里不舒服。
他在白板上写：
低质数据不是噪声，它会变成下一代人的答案。
老周在公司群里转发了他们的报告，只配了一句话：
模型会忘记出处，人不能忘记责任。
第二天，客户同意暂缓上线一周，先做语料清洗。
项目经理嘴上说“你们这些技术洁癖真难伺候”，却把林凡的方案转成了正式需求。需求标题很朴素：
风险语料过滤与来源追溯。
林凡看着标题，忽然有点踏实。
有些坑堵不住全部，至少能先插块牌子：前方不是路，是别人倒进去的垃圾。