hallucination / 幻觉

它真正的意思

模型生成了流畅但不正确的内容。它不是偶发故障，而是这一类模型的固有属性 —— 它优化的是「像话」，不是「属实」。

会议室里的意思

它编的。

你可以回问一句

我们抽查了多少比例的输出？

为什么这个词会被拉长

把它叫做「幻觉」，听起来像是一种偶尔发作的病，暗示以后会被治好。但只要生成机制不变，它就不会消失，只会变得更难被发现 —— 因为流畅度在提高，而流畅正是让人放松检查的东西。

通常出现在：第一次有人拿着模型的输出去开会之后。