转自：衢州日报
记者 陈霞
在当今数字化浪潮中，人工智能（AI）技术如同汹涌澎湃的潮水，以前所未有的速度全方位融入我们的生活。智能语音助手能迅速为我们查询信息、规划行程；图像识别技术助力安防监控，保障公共安全，在医疗影像诊断领域也大显身手，辅助医生精准判断病情；自动化生产线借助AI实现精准操作，大幅提升生产效率。AI似乎无所不能，为我们的生活与工作带来诸多便利，成为推动社会进步的新引擎。
然而，在这看似光明的技术前景背后，一个不容忽视的问题正悄然浮现——AI幻觉。
AI魅力与隐患并存
“请介绍一下衢州的历史文化和旅游景点。”面对这样的提问，AI可能会详细阐述衢州的历史变迁，生动描绘其文化特色，还会如数家珍般列举出孔氏南宗家庙、江郎山等著名景点，甚至贴心给出游玩建议。但在这看似完美的回答中，也许会夹杂错误信息，比如某些历史事件的时间不对，或者对景点介绍出现偏差。这种AI看似合理却包含错误内容的现象，就是所谓的“AI幻觉”。
近日，衢州市文化馆举办的“DeepSeek新手超实用技巧秘籍”讲座活动异常火爆。报名公告发布仅3小时，名额便被一抢而空。衢州职业技术学院人工智能技术应用专业主任、教授张丽娜以深入浅出的讲解方式，为大家揭开AI运用的神秘面纱。
讲座台上，张丽娜从DeepSeek的使用与部署、专业场景应用，再到常见生活场景应用，一边进行细致演示，一边耐心讲解，原本复杂晦涩的操作流程变得清晰易懂。台下听众们全神贯注，不少人拿出手机开启视频录制功能，希望完整留存这宝贵的学习过程。
当下，全社会掀起探索AI技术、运用AI提升生活与工作质量的热潮，AI正逐渐成为撬动大众创造力的有力杠杆。但张丽娜特别强调：“掌握AI正确使用方法，学会识别和应对AI幻觉现象同样至关重要。”
AI幻觉，简言之，就是人工智能模型在生成内容时，产生与事实不符、逻辑错误或完全虚构的信息。这种现象在各类AI应用中广泛存在，无论是文本生成、图像合成，还是代码编写，都难以幸免。
活动现场，张丽娜通过实际案例展示，让大家清晰认识到AI幻觉的表现形式及其可能带来的影响，同时传授了一系列行之有效的应对策略，帮助大家在使用AI时获取准确、可靠的信息。
AI幻觉引发的多米诺骨牌效应
现实中，AI幻觉引发了诸多问题，记者自身也有切身体会。不久前，为提高工作效率，记者摘取经过审核的基础材料写了一篇初稿，尝试借助一款知名AI写作工具进行文本润色。向AI输入相关主题和具体要求后，它很快生成了一篇看似语言流畅、结构完整的文章。然而仔细核查后发现，文中不仅存在捏造事实的情况，甚至连提供的数据都被篡改。这样的内容若发表，不仅会误导读者，损害媒体公信力，还会对相关采访对象造成负面影响。
以学术研究为主要工作的杜老师表示：“当AI在10分钟内为你撰写一篇几万字的论文时，你可能需要花费与撰写这几万字论文同等的时间，去验证论文里的每一个引用是否真实存在，论文中的逻辑是否符合学术共识。”在一次试用中，AI迅速给出条理清晰的相关内容阐述，并列出一系列看似权威的参考文献，包括作者、期刊、标题等信息，宛如一篇经过严谨调研的学术成果。但当杜老师试图查找这些参考文献时，却发现它们在现实中根本不存在。杜老师感慨道：“倘若有学者在不知情的情况下，将这些虚构的参考文献用于自己的研究中，极有可能被认定为学术不端行为，这对学术研究的严谨性和规范性无疑是巨大的冲击。”
市民郑女士也表达了担忧：“有一次，我发现AI给出的解释依据不充分后，使用时就格外谨慎了。我更担心孩子在使用AI辅助学习时，AI可能给出错误的知识点解释，或者对复杂问题进行错误分析。孩子可能在不知不觉中接收这些错误信息，从而影响对知识的正确理解和掌握。”
在医疗、金融、法律等专业领域，AI幻觉的后果可能更为严重。在医疗领域，若AI给出错误的诊断建议或治疗方案，可能危及患者的健康甚至生命；在金融领域，错误的投资建议可能导致投资者遭受重大经济损失；在法律领域，不准确的法律条文解读或案例分析，可能影响司法的公正性。
即使在写作、设计等创意性工作中，AI幻觉也可能带来问题。尽管创意工作需要一定的想象力和创新性，但如果AI生成的内容包含大量与事实不符的信息，也会影响作品的质量和可信度。
AI为何会“信口开河”？
究竟是什么原因导致AI出现这些令人困惑的幻觉现象呢？这需要从AI的工作原理和训练机制探寻答案。
张丽娜介绍，以广泛应用的大语言模型为例，它并不像人类一样具备真正理解问题含义的能力，无法基于自身积累的知识和丰富经验进行深入推理与判断，进而给出准确回答。相反，它更像是一个超级“文字接龙”高手。在训练过程中，大语言模型会学习海量的文本数据，通过对这些数据的分析和统计，掌握语言的模式和规律。当接收到用户的输入问题时，它会依据之前学到的模式和规律，预测最有可能的下一个词或句子，以此生成回答。“这就好比一个人虽然阅读了大量书籍，但并未真正理解书中内容，只是单纯记住了文字的组合方式。”张丽娜形象地比喻道，当遇到一些在训练数据中没有明确答案，或者需要复杂推理才能得出结论的问题时，AI就如同在黑暗中摸索的人，缺乏足够的信息和判断力，只能凭借已有的模式和经验“胡编乱造”，生成看似合理但实际错误的内容。
AI训练所使用的数据质量也是导致幻觉产生的关键因素。如果训练数据本身包含错误、虚假或带有偏见的信息，那么AI在学习过程中就如同吸收了“有害养分”，不可避免地将这些错误信息内化。当它生成内容时，这些错误信息就如同隐藏在暗处的“定时炸弹”，随时可能被触发，导致幻觉出现。
此外，模型的架构设计、训练算法的选择以及对模型的优化目标等，都与AI幻觉的出现有着千丝万缕的联系。比如，一些模型在优化过程中，过于注重生成内容的流畅性和与用户问题的相关性，在一定程度上忽视了内容的准确性，这无疑为AI幻觉的滋生提供了温床。
以积极态度，应对AI局限性
“作为普通用户，在享受AI带来的便利时，我们需要保持清醒的头脑和谨慎的态度。”张丽娜强调，首先，不能盲目相信AI的回答，尤其是在涉及重要决策、专业知识或关键信息时，一定要对AI的回答进行多方面核实和验证。可以通过查阅多个权威信息源、咨询专业人士或参考实际案例等方式，确认信息的准确性。例如，在使用AI进行医疗咨询时，即便AI给出看似合理的建议，也不能掉以轻心，最好咨询专业医生的意见。
其次，向AI提问时，要尽量提供明确、具体的问题描述，避免使用模糊、歧义或容易引起误解的表述。清晰准确的问题能够帮助AI更好地理解用户需求，减少因理解偏差而产生幻觉的可能性。此外，用户还可以积极参与到AI的反馈和改进过程中，当发现AI出现幻觉或给出错误答案时，及时向相关平台或开发者反馈，为提升AI的性能贡献自己的力量。
“AI幻觉是当前AI发展过程中面临的一个严峻挑战，但这并不意味着我们应该对AI技术失去信心。”张丽娜指出，AI在众多领域展现出的巨大潜力和价值不可否认，它已经深刻改变了我们的生活和工作方式，为社会发展带来新的机遇和动力。“我们需要正视AI的局限性，以积极的态度和切实的行动来应对AI幻觉问题。”
“除了幻觉，数据隐私、安全、伦理等问题也是AI时代需要特别关注的。”张丽娜认为，随着技术的不断进步和完善，我们有理由相信，AI幻觉问题将逐渐得到缓解。未来的AI将更加智能、可靠，能够为我们提供更加准确、有用的服务。在这个过程中，无论是技术开发者还是普通用户，都需要共同努力，推动AI技术朝着更加健康、可持续的方向发展。
