ai幻觉难以避免，如何应对 -金沙娱场城app

张海

在人工智能（ai）技术的飞速发展下，“ai幻觉”，即人工智能在信息处理和生成中的误差或错觉，已经成为不容忽视的问题。2023年，“幻觉”成为剑桥词典和dictionary.com的年度词语。根据dictionary.com的数据，2023年“幻觉”一词的搜索量比前一年增加了46%。剑桥词典中，“幻觉”的原有释义“似乎看到、听到、感觉到或闻到一些不存在的东西，通常是因为健康状况或因为你服用了某种药物而产生幻觉”之外，增加了一个新的释义：“ai幻觉会生成错误讯息”。

日前《自然》杂志上的一篇论文《机器行为》指出，人工智能今天已经普遍存在于人类社会，新闻排名算法会影响人们看到的信息，消费算法会影响人们购买什么消费品，打车算法会影响我们的出行模式，智能家庭算法会影响我们的家庭生活，在法律、医疗等领域，人工智能的影响就更为巨大。人工智能使机器越来越像人类一样思考和行为。如此一来，机器越来越深入影响人类社会的结构，机器塑造人类的行为，人类也塑造机器的行为，人类和机器如何协同，会对未来社会形态产生重大深远的影响。

人工智能时代下，ai幻觉已经成为一种普遍存在的现象。从自动驾驶汽车可能的错误判断到智能助手误解指令，再到医疗诊断工具的误诊，ai幻觉遍布于我们日常生活的每一个角落。2024年谷歌搜索引擎推出了一项人工智能搜索服务：ai概览，提供ai生成的答案。其本意是想提升用户体验，但用户很快发现ai概览提供了大量离谱的答案，如建议用胶水粘披萨、每天吃石头来获取营养等，使得谷歌赶快关闭了其部分功能。

从人工智能科学家的视角看，由于技术的限制和人类认知的不足，ai幻觉本质上是难以避免的。尽管技术人员正在努力提升ai的准确性和可靠性，但由于数据的不完整、算法的局限和复杂的交互环境等因素，ai幻觉仍然频繁出现，且难以完全消除。

ai幻觉的产生机制涉及多个方面。首先，数据偏差是主要原因之一，如果ai的训练数据缺乏多样性或存在系统性偏见，那么输出的结果就可能产生幻觉。其次，当前的ai算法，尤其是基于统计学的算法，无法完美地适应新的、未曾见过的情况，从而可能导致错误的判断。再次，人类设计者的认知局限也是一大问题，设计者和训练者的主观偏见可能无意中被编码进ai系统，影响其决策。最后，ai系统运行的交互环境本身充满变数，复杂多变的环境因素常常超出ai系统的处理能力，导致ai幻觉的产生。

面对ai幻觉的普遍性和不可避免性，如何应对？首先，提升数据质量和多样性是基础。通过增加训练数据的广度和深度，可以减少数据偏差，提高ai系统的泛化能力。其次，优化算法设计，增强其健壮性和适应性，能够使ai系统更好地应对新情况。第三，提升用户教育和意识也至关重要，帮助用户正确理解ai的能力和局限，可以有效减少因误解而产生的幻觉。此外，建立伦理规范和监管机制，确保ai的发展和应用符合伦理与法律标准，对于减少ai幻觉的发生同样重要。最后，跨学科合作在应对ai幻觉时扮演着关键角色。工程师、数据科学家、心理学家、伦理学家以及法律专家等应共同参与到ai系统的设计和评估过程中，从各自领域的专业角度出发，共同解决ai幻觉问题。

人工智能时代下，ai幻觉是一个复杂、普遍、不可避免的问题，这就要求我们采取多维度、多层次的策略来应对，从而最大限度地减少ai幻觉的负面影响。2023年联合国教科文组织发布的《教育与研究领域生成式人工智能指南》建议，把在课堂上使用人工智能工具的最低年龄设定为13岁。open ai则建议13岁以下儿童禁止使用生成式人工智能，13到18岁的孩子需要在监护人指导下使用。

2023年一次可信任媒体峰会在新加坡举行，分享了各国如何提升青少年媒介素养的举措。如一项国外基于网站和播客发起的、以小学生为对象，提升媒体素养的公益活动“squiz kids”，帮助培养青少年分辨网络上出现的错误信息、假信息的能力。它主要分三步：接触到网络信息时停一停（stop），想一想（think），最后对一对（check），和可靠的信息源对照确认是否一致。通过集合不同领域的知识和技能，更全面地识别问题、找到金沙娱场城app的解决方案，我们就可以期待一个更智能、更安全、更可靠的人工智能社会的到来。（作者是东北师范大学传媒科学学院教授，吉林省教育与人工智能融合创新工程中心主任）▲