公司最近在做一个科技创新项目，偏面子工程，经常要对外宣传营销，经常要我硬写“创新点”文章报道。
我就用通义/Gemini：前期构思，后期润色。
内容后来被各路媒体、自媒体引用、转载（当然大部分是花钱请的）。
后来再写相关内容，继续习惯性丢给 LLM 。他会联网搜索到我之前写的报道，内容是我自己编的，参考资料也是。开始循环引用了。
一时间，不知道是我在喂养模型，还是模型在反哺我。自然产出的内容也会更低质，偏离原本内容。
This topic created in 308 days ago, the information mentioned may be changed or developed.
 |
1
Seanfuck Jul 22, 2025
恶行循环了，后面可能会没（人类产出的）东西训练模型，导致 AI 停止进步。
|
 |
2
ileeoyo Jul 22, 2025  1
所以有时关闭 AI 联网搜索，反而能输出更优质的结果。
|
 |
3
akorn Jul 22, 2025
时序模型，如果模型容量不够，做多步推理（用生成内容预测新内容），或者用生成内容做训练数据，模型预测结果会因为错误累积，迅速崩塌。
|
 |
4
PepperEgg Jul 22, 2025
过拟合
|
 |
5
sparklee Jul 22, 2025
近亲繁殖
|
 |
6
elevioux Jul 22, 2025
随着互联网上由 AI 生成的内容越来越多，原生数据占比越来越少，基于此训练的 AI/联网搜索会逐渐劣化？
|
 |
7
gunner168 Jul 23, 2025 via iPhone
难怪之前很多 ai 助手，比如三星 bixbi ，微软小冰，越更新越废，看来是这个原因了
|
 |
8
catazshadow Jul 23, 2025 via Android
计算不产生熵
|
Select Language