[二](17 分)
材料一
不久前,话题“防止 DeepSeek 乱编文献的方法”冲上热搜。记者注意到:用 AI 工具写论文“被坑”的经历并非鲜见。有网友列出了自己的亲身经历,除了编造论文文献,AI 还会编造法律条文。
问 AI 一个问题,它给了你一个特别详细、丰富,看上去好有逻辑的答案。但当我们去核实时,却发现这些信息完全是虚构的。这就是著名的“AI 幻觉”现象。
“AI 幻觉”指的是 AI 会生成看似合理但实际错误的信息,最常见的表现就是会编造一些不存在的事实或者细节。
专家提醒，“AI 幻觉”并非没有好处,有时候与其把它当成缺陷,不如把它看作创意的源泉。在写作、艺术创作或头脑风暴时,这些“跳跃性思维”反而可能帮我们打开新世界的大门。
归根结底,在这个 AI 与人类共同进步的时代,重要的不是责备 AI 的不完美,而是学会与之更好地协作。
(选自“中国青年网”,有删改)
材料二
究竟是什么原因导致 AI 出现这些令人困惑的幻觉现象呢? 这需要从 AI 的工作原理和训练机制探寻答案。
张女士介绍,以广泛应用的大语言模型为例,它并不像人类一样具备真正理解问题含义的能力,无法基于自身积累的知识和丰富经验进行深入推理与判断,进而给出准确回答。相反,它更像是一个超级“文字接龙”高手。在训练过程中,大语言模型会学习海量的文本数据,通过对这些数据的分析和统计,掌握语言的模式和规律。当接收到用户的输入问题时,它会依据之前学到的模式和规律,预测最有可能的下一个词或句子,以此生成回答。当遇到一些在训练数据中没有明确答案,或者需要复杂推理才能得出结论的问题时,AI 就如同在黑暗中摸索的人,缺乏足够的信息和判断力,只能凭借已有的模式和经验“胡编乱造”,生成看似合理但实际错误的内容。
AI 训练所使用的数据质量也是导致幻觉产生的关键因素。如果训练数据本身包含错误、虚假或带有偏见的信息,那么 AI 在学习过程中就如同吸收了“有害养分”,不可避免地将这些错误信息内化。当它生成内容时,这些错误信息就如同隐藏在暗处的“定时炸弹”,随时可能被触发,导致幻觉出现。
此外,模型的架构设计、训练算法的选择以及对模型的优化目标等,都与 AI 幻觉的出现有着千丝万缕的联系。
(选自《衢州日报》2025 年 4 月 8 日,有删改)
材料三
在去年 6 月出版的《自然》杂志上,英国牛津大学科学家刊发论文称,他们利用“语义熵”,通过概率来判断大语言模型是否出现了“幻觉”。语义熵是信息熵的一种,被用于量化物理系统中所包含的信息量。通过评估 AI 模型在特定提示词下生成内容的不确定性,来计算模型的困惑程度,从而为用户或模型提供警示,提醒其采取必要的循证措施,确保更准确的答案输出。
美国某 AI 研究人员采用的方法是在大语言模型回答问题时,绘制其内部计算节点的激活模式。他形象地称之为“给 AI 做脑部扫描”。利用不同的计算节点活动模式,可以告诉我们 AI 模型是在“说真话”,还是在“胡说八道”。
(选自《科技日报》2025 年 1 月 28 日,有删改)
9. 下列对以上材料的理解和判断,不正确的一项是(3 分) (
B
)
A. AI 是把双刃剑,我们的态度不是责备 AI 的不完美,而是学会与之更好地协作。
B. 可以把“AI 幻觉”看作创意的源泉,因为在写作、艺术创作或头脑风暴时,它能帮我们打开新世界的大门。
C. AI 幻觉,涉及 AI 的工作原理和训练机制、AI 训练所使用的数据质量、模型的架构设计、训练算法的选择等。
D. “语义熵”通过评估 AI 模型在特定提示词下生成内容的不确定性,来计算模型的困惑程度,从而为用户或模型提供警示。
10. 请给“AI 幻觉”下个定义。(4 分)
11. 结合材料二,梳理大语言模型的工作原理,完成下面的填空。(4 分)
学习海量的文本数据——(1)
掌握语言的模式和规律
——接收到用户的输入问题——(2)
依据学到的模式和规律预测生成回答
12. 我们在使用 AI 的过程中,应当如何避免“AI 幻觉”误导? 请结合所给材料提出你的建议。(6 分)
