深度剖析大模型幻觉:成因、影响与应对策略

AI快讯2个月前发布 niko
24 0
AiPPT - 一键生成ppt

大模型幻觉现象引发关注:当DeepSeek日下载量飙升、DAU逼近chatgpt的23%,大模型走进大众生活。然而,其“幻觉”问题凸显,给出的答案可能是虚构的。这种被称为“幻觉”的现象,是大模型的固有特征。

大模型幻觉的成因:大模型本质是语言概率模型,训练时会压缩大数据,排除“长尾”事实。面对缺失信息,模型会编造细节,形成幻觉。此外,训练数据集的不准确以及模型的推断,也是虚假信息的来源。人类的偏见和刻板印象,导致错误信息更易传播。

“专家之死”与大模型幻觉:“专家之死”观念流行,许多人认为大模型是“专家终结者”。但大模型的“准权威”风格易误导用户,其“幻觉”可能使表面知识者获得更多话语权,同时也提高了真正成为专家的门槛。不过,大模型的“幻觉”也体现了一定的抽象能力。

应对大模型幻觉的策略:非专家要以怀疑为首位,平衡怀疑与利用大模型的价值。专业人士深入使用时能辨别真伪。在儿童、老年人及严肃场景下,需限制大模型使用。胡泳主张用“虚构症”代替“幻觉”,以避免过度拟人化和责任推诿。

大模型幻觉的危害与责任界定:大模型幻觉带来诸多危害,如法律文书和学术论文引用伪造。企业虽无法完全消除幻觉,但有能力减少其发生。将责任全归咎于企业不利于产业发展,需权衡产业发展与社会伤害。

大模型能力与幻觉的关系 :行业曾认为模型规模与幻觉呈负相关,但DeepSeekR1的情况表明关系复杂。总体而言,模型规模扩大和推理能力增强有助于减少幻觉,但R1在摘要任务上因“用力过猛”增加了幻觉。

与大模型幻觉共处的方法:企业在竞争压力下会努力解决幻觉问题。大模型带来的最大风险是虚假信息传播。为应对幻觉,普通人可利用搜索功能、使用多个大模型、与人类专家交流等。

© 版权声明
Trea - 国内首个原生AI IDE