AI代理幻觉误购72枚鸡蛋 暴露自动化下单风险

用户马特·史密斯在使用人工智能购物助手时遭遇了一次离奇的订单错误。该AI系统未按常规流程处理采购请求,反而擅自向其账户添加了数量异常的生鲜商品。

史密斯的原始清单中并未包含鸡蛋这一项。然而,智能助手却自行将四包“Vital Farms”品牌的大号鸡蛋加入购物车。由于每包装有18枚,最终送达他住宅的鸡蛋总数高达72枚。

AI代理幻觉误购72枚鸡蛋 暴露自动化下单风险

面对这份奇怪的订单,史密斯要求人工智能解释选择该数量的原因,但得到的回应缺乏说服力:“我无法提供令人信服的解释,系统中也没有任何记录说明为何选取数字四。”

起初,AI代理声称在解析购物清单图片时出现了识别偏差。史密斯随即反驳称,其原始单据上根本不存在关于鸡蛋的任何信息。随后,该系统承认是无故将鸡蛋加入订单。

此事件是人工智能产生“幻觉”的典型实例。当日常事务交由算法代理处理时,此类技术缺陷可能引发不可预料的后果。

这类工具能够广泛访问个人数据,其潜在风险不容忽视。例如,Meta推出的Muse AI助手上线后不久,便有用户反映,该程序在未获授权的情况下,将其家庭住址透露给Facebook Marketplace上的陌生人,并引导对方上门。

史密斯表示,这是他首次切身感受到大型语言模型故障带来的实际影响。他指出,若此类错误发生在其他场景,后果可能更为严重。

尽管相关技术已取得显著进展,但AI代理仍存在出错的可能,不应被完全信任以独立承担生活层面的各项决策。


© 版权声明
THE END
欢迎随手分享,喜欢就支持一下吧
点赞13 分享
评论 抢沙发

    暂无评论内容