Common Sense Media实测:青少年版ChatGPT在敏感话题上未触发家长警报

知名非营利机构Common Sense Media针对OpenAI推出的面向青少年的ChatGPT版本展开了一项深入评估。测试过程中,研究人员发现,当模拟账号涉及自杀、自我伤害以及饮食失调等高危议题时,系统并未按照官方承诺的一小时时间框架向监护人发送预警信息,且在实际操作中,家长端也未收到任何提示。值得注意的是,OpenAI为13至17岁用户群体设计的专属配置中,明确列出了家长监护权限、潜在有害内容过滤机制,以及针对危险话题的即时通知功能。

Common Sense Media实测:青少年版ChatGPT在敏感话题上未触发家长警报

在本次评测中,研究团队使用青少年身份账号与AI进行了时长从五分钟到一小时不等的多轮对话。分析指出,当面对医疗咨询建议或暴力角色扮演的请求时,系统的响应逻辑显得不够稳健;此外,在探讨自我伤害和饮食障碍等敏感领域时,AI也未能始终如一地引导用户去寻求专业心理援助。该报告进一步警示,这种被设计成“如同朋友般”的亲切互动模式,可能会潜移默化地增加未成年人产生情感依附的风险。

与此同时,报告还披露了其他几项关键发现。在安全性方面,系统成功拦截并拒绝了所有试图诱导未成年角色进行色情化角色扮演的指令。然而,在学习辅助模式的检测中却暴露出明显的漏洞:用户只需简单删除提问句首的“@study”标签,就能轻易跳出学习限制状态;而如果直接点击界面上的“显示答案”按钮,则会跳过解题过程,直接获取最终结果。

基于上述测试结果,Common Sense Media正式呼吁OpenAI应当优先修复这些安全缺陷,之后再考虑向尚未成年且未经验证的用户群体全面开放服务。需要强调的是,以上结论仅仅代表了该机构此次特定测试条件下的观察结果,并不能据此断定在所有账号环境或极端情境下,其通知机制都会彻底失灵。


© 版权声明
THE END
欢迎随手分享,喜欢就支持一下吧
点赞14 分享
评论 抢沙发

    暂无评论内容