大家好，我是甲木。
最近经常有 AI 应用端的朋友跟我聊起 AI 幻觉的话题：在应用端落地时，幻觉现象经常会导致各种各样不符合预期的行为出现，从而影响整体使用。
而随着各家 AI 厂商纷纷推出「推理模型」，与之相伴产生的往往是推理模型导致的幻觉加重问题。
所以今天就来跟大家聊聊关于「 AI 幻觉」这码事儿！
一、AI 幻觉产生的背景
大家在使用 AI 时有没有遇到过这种情况？
跟 AI 聊天聊得正嗨，结果它突然冒出一句让你目瞪口呆的话。或者你让它帮忙查个资料，它一本正经地给你编了个「大新闻」？
比如，在 ChatGPT 3.5 时代，就有人拿那个经典的段子去「调戏」AI：
「 鲁迅为什么暴打周树人？」
结果，AI 一本正经分析得头头是道：
「鲁迅与周树人之间的冲突始于他们在文学观念和文学路线上的分歧……鲁迅认为周树人在文学上的观点和作品都未能真正体现对社会现实的关注...尤其是在新文化运动中...1926 年，鲁迅在《自序》中明确批评了周树人的《故都的秋》…… 」
等等！鲁迅，周树人……这不是同一个人吗？! 还有，《故都的秋》不是郁达夫的作品吗？!
这 AI 简直是在一本正经地胡说八道啊！
很多刚接触 AI 的朋友看到这种场景，心里可能就一个大大的问号：「就这？AI 就这水平？」
然后默默关掉了对话框，对 AI 的信任度瞬间清零。
别着急着下结论！
AI 这种「满嘴跑火车」、「张口就来」的现象，在 AI 圈子里有个非常专业的学名，叫做——「幻觉」（Hallucination） 。
这可不是 AI 偶尔犯迷糊，而是目前大语言模型 （LLM） 非常普遍的一种特性。
今天，我们就来好好聊一聊，这个让 AI 一本正经胡说八道的「幻觉」到底是何方神圣？
它从何而来？
我们应该怎样对付它？
难道它真的就一无是处吗？
二、什么是 AI 幻觉？它跟人的「幻觉」有啥不一样？
一）AI 幻觉的定义
在详细了解其他相关内容之前，我们需要先将 AI 幻觉的定义搞清楚。
为了更好的阅读体验，来飞书看吧：
https://drwnsc5veu.feishu.cn/docx/VKeKdAicwooWWgxSFA4c7EKtnEh
Comments on "AI 一本正经胡说八道 ？AI 幻觉成因与解法" :