用户马特·史密斯在使用人工智能购物助手时遭遇了一次离奇的订单错误。该AI系统未按常规流程处理采购请求,反而擅自向其账户添加了数量异常的生鲜商品。
史密斯的原始清单中并未包含鸡蛋这一项。然而,智能助手却自行将四包“Vital Farms”品牌的大号鸡蛋加入购物车。由于每包装有18枚,最终送达他住宅的鸡蛋总数高达72枚。

面对这份奇怪的订单,史密斯要求人工智能解释选择该数量的原因,但得到的回应缺乏说服力:“我无法提供令人信服的解释,系统中也没有任何记录说明为何选取数字四。”
起初,AI代理声称在解析购物清单图片时出现了识别偏差。史密斯随即反驳称,其原始单据上根本不存在关于鸡蛋的任何信息。随后,该系统承认是无故将鸡蛋加入订单。
此事件是人工智能产生“幻觉”的典型实例。当日常事务交由算法代理处理时,此类技术缺陷可能引发不可预料的后果。
这类工具能够广泛访问个人数据,其潜在风险不容忽视。例如,Meta推出的Muse AI助手上线后不久,便有用户反映,该程序在未获授权的情况下,将其家庭住址透露给Facebook Marketplace上的陌生人,并引导对方上门。
史密斯表示,这是他首次切身感受到大型语言模型故障带来的实际影响。他指出,若此类错误发生在其他场景,后果可能更为严重。
尽管相关技术已取得显著进展,但AI代理仍存在出错的可能,不应被完全信任以独立承担生活层面的各项决策。
广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,硕谷新闻聚合所有文章均包含本声明。





















暂无评论内容