深度剖析AI幻觉：根源、影响与应对策略

AI幻觉问题凸显。在chatgpt引发热潮时，人们发现它存在“说假话也像真的”现象，这就是AI领域的“幻觉”。早在1995年，幻觉概念被引入，最初带有褒义，后含义逐渐变化，如今指“自信的说假话”。2024年，哈工大与华为将幻觉分为事实性幻觉和忠实性幻觉。

幻觉的分类解析。事实性幻觉中，事实不一致如模型对“第一个登上月球的人”回答错误；事实捏造如编造“独角兽历史起源”答案。忠实性幻觉方面，指令不一致表现为模型偏离用户指令；上下文不一致是输出与上下文信息不符；逻辑不一致即输出逻辑自相矛盾。幻觉是大语言模型的常见问题。

幻觉产生的根源。数据是根源之一，有缺陷的数据源含错误信息、知识边界等问题，模型利用不当也会引发幻觉。训练过程存在缺陷，预训练阶段模型架构、训练目标等问题，对齐阶段的能力、信念错位都会导致幻觉。推理阶段，解码策略随机性和解码表征不完美也可能造成幻觉。

AI幻觉引发的问题。AI幻觉在多领域引发问题。加拿大航空智能客服因幻觉提供虚假折扣遭起诉，乘客获承诺折扣和赔偿金。美国一律师用ChatGPT搜集案例，因幻觉编造不存在案例，诉讼请求被驳回且律所被罚款。亚马逊电子书旅游类排行榜上，AI生成涉及挖蘑菇的书籍，经专家审查存在危险。

AI幻觉的影响及应对。AI幻觉颠覆人们对计算机程序的认知，降低系统可靠性和稳定性，影响生成式人工智能的效率。目前无根本解决方案，缓解方法有优化训练数据和训练方式，以及设置工程性防护措施，如谷歌Gemini的“核查回答”功能。