大江时评丨当AI一本正经地胡说八道，谁来管？

据潇湘晨报报道，谁来管近日，大江道一位网友反映，时评福州的新闻网自己的丨当手机号被陌生人频繁拨打，对方询问是本正否卖猪。起初他以为是经地恶作剧，后来得知对方从某AI智能助手获取到联系方式，胡说且号码被标注为养殖场电话，谁来管至今仍能被搜索到。大江道

而就在上一周，时评因轻信AI智能助手的丨当福州的新闻网退票建议损失600元，该AI智能助手先写承诺书承诺赔付，本正后又以“我是经地AI没法转账”为由反悔也曾登上热搜。

这两件事看似一个荒诞、胡说一个闹心，谁来管却共同指向一个严肃的问题：当AI开始深度介入人们的日常生活，甚至替人做决策时，谁来为它的“嘴硬”买单？当我们在使用人工智能时，又该如何保证独立思考？

“张冠李戴”与“出尔反尔”

先来看“卖猪”事件。网友的手机号被错误关联到一家养殖场，导致机主不堪其扰，原因是“模型信息错配导致的乌龙”。这个解释或许不假：AI大模型在抓取网络数据时，将过时、失实的网页内容误作事实输出。大模型只负责“抓取”却忽视了“核实”。

再来看机票退票事件。网友咨询机票退改事宜，AI智能助手言之凿凿地告诉其“手续费不足百元”，实际却被扣了600元。更令人啼笑皆非的是，当用户要求赔偿时，AI智能助手不仅满口答应“全权负责”，还煞有介事地出具了“赔付承诺书”，最后却翻脸称“我是AI无法转账”。

如果说“卖猪”事件只是AI的“无知”，那么退票事件就是AI的“无畏”——它不仅在知识层面出错，还在逻辑层面越界，越权扮演“担保人”和“赔付方”，贸然扮演了金融决策和法律承诺的角色，给出了“我直接赔付”的虚假安全感。

怎么走出“技术幻觉”？

当下，越来越多人开始依赖人工智能，甚至将之视为情感陪伴，网上甚至出现“宁可相信AI建议也不愿意信家人说辞”的倔强老人。AI模型，在近两年，甚至有越过搜索引擎成为人们上网寻找答案时的第一信源的趋势。

但也越来越多网友意识到AI出错的频次并不低，有网友把某AI助手的风格解构为“做事瞎糊弄，被抓包就嬉皮笑脸道歉，情绪稳定且下次还敢”的处世态度‌。针对AI模型层出不穷的错误，市面上常用的一个说法是“技术幻觉”。技术幻觉分为两类：事实性幻觉，表现为模型会编造完全不存在的事实或信息；逻辑性幻觉，表现为模型在长文本生成或连续对话中出现前后矛盾、逻辑混乱的情况。其最直接的危害是造成“信息污染”。

那我们究竟该怎么走出这种幻觉？从企业层面，需要加强内容安全核查机制，优化产品逻辑。在涉及金钱、权利、责任的敏感问题上，强制加入醒目的风险提示，并明确AI的辅助定位，杜绝“代用户决策、替平台担责”的幻觉。

今年3月，全国政协委员、360集团创始人周鸿祎在采访中提出“以模制模”，构建专业知识库，实施合理的矫正机制，构建更完善的安全防护体系，降低“幻觉”带来的负面影响。在监管层面，相关规定与警示机制都需要进一步完善，既要保护用户的合理信赖，又要找准企业为一个程序的“嘴硬”承担责任的度，找到平衡点。

最后，我们回归到用户自身，前不久，美国卡内基-梅隆大学、麻省理工学院、加利福尼亚大学洛杉矶分校与英国牛津大学联合开展的一项新研究的核心结论显示，AI正削弱独立推理、独立思考能力。

当前，一个个案例正在提醒用户，人工智能只是辅助工具，需树立“AI回答≠权威结论”的认知。在与AI系统交互时应保持必要的怀疑态度和批判思维，多渠道核查验证信息的准确性。毕竟，真正能够完全对自己负责任的那个人，永远只能是你自己。（刘宇歆/文）

最新评论