2025-08-08.不摸鱼的独立开发者日报（第83期）

📰 资讯

AI为何口水话话连篇？

经常用AI的人会发现，AI生成的话往往非常啰嗦、冗杂。这要从它的工作原理说起。现阶段，LLM的核心任务是预测下一个词。它不是为了达成某个宏大的目标去创作，而是在统计学意义上，一步步选择最可能的词语拼接成句。这种“输出驱动”而非“目标驱动”的机制，使其天然倾向于生成那些在训练数据中最常见、最安全的平均文本，从而导致内容显得平庸和泛化。

另一个原因则来自它的训练数据。AI被投喂了海量的互联网文本，如果这些数据本身就充满了大量SEO垃圾文章和低质量内容，那么模型学到的自然也是这些模式，“garbage in, garbage out”的道理在这里体现得淋漓尽致。此外，为了让AI更听话，研究者会用一种叫“基于人类反馈的强化学习”的方法进行微调。如果人类评分员偏爱那些看起来井井有条、措辞礼貌的回答，模型就会拼命迎合这种偏好，最终可能导致模型坍塌，即所有回答都变得千篇一律，失去了多样性和新意。