在人工智能领域，大语言模型（LLMs）如 OpenAI 的 ChatGPT 正在以惊人的速度改变着人类与技术互动的方式。这些模型生成的文本，因其与人类语言的高度相似性，常常令我们难以分辨其来源。然而，这些模型并非全然完美，它们在生成内容时，往往会出现明显的不准确性，这些错误通常被冠以“AI 幻觉”之名。但最近，格拉斯哥大学的学者 Michael Townsen Hicks、James Humphries 和 Joe Slater 在《伦理与信息技术》杂志上发表的论文，提出了一种新的观点：这些错误更应被视为“废话”。
大语言模型的“幻觉”与“废话”
大语言模型的主要任务是生成与人类语言相似的文本，而非理解或传达事实。将模型产生的错误称为“幻觉”，实际上是一种误导性的隐喻，因为它暗示了 AI 拥有感知和传达真相的意图。这一观点借鉴了哲学家 Harry Frankfurt 对“废话”的定义：与说谎者不同，废话制造者并不在意所说内容的真假，只关心其能否达到某种效果。按照这一标准，大语言模型更像是“废话制造者”，它们只关心生成的文本是否符合人类语言模式，而不在意其真实性。
从“幻觉”到“废话”的转变
这一论点的重要性在于，它改变了我们理解和应对大语言模型错误的方式。如果我们将其错误视为“幻觉”，可能会误认为 AI 试图传达某种被误解的信息。然而，实际上，大语言模型只是在统计模式下生成看似合理的文本，没有任何内在的机制来确保事实准确性。这种误解可能导致对 AI 工具能力的过度炒作，以及公众对其功能的不必要担忧。
OpenAI的努力与挑战
尽管 OpenAI 在努力提高 ChatGPT 的事实准确性，如在 2023 年的博客中指出，GPT-4 的事实准确性相比 GPT-3.5 提高了 40%。然而，学者们强调，提高准确性只是第一步，更关键的是要正确理解和传播 AI 工具的局限性。与其迷信 AI 具备感知和理解能力，不如正视其“废话制造者”的本质，避免对这些技术的错误期望。
呼吁正视技术局限
最终，学者们警告道，将 AI 生成的错误称为“幻觉”不仅不准确，还可能导致错误的解决方案和 AI 对齐策略的制定。正视大语言模型作为“废话制造者”的本质，有助于避免对 AI 技术的错误期望，促进更健康、更负责任的人工智能发展。
结语
面对大语言模型的生成能力与潜在错误，我们需要从更广阔的视角审视 AI 技术的边界与潜力。通过清晰地认识到大语言模型的“废话”本质，我们能够更准确地评估其价值，合理利用 AI 技术，促进其在社会和科学领域的健康发展。
Views: 0