AB
AiBoss
ニュース

Common Sense Media 称 ChatGPT for Teens 属「不可接受的风险」

非营利机构 Common Sense Media 评估认为,OpenAI 的 ChatGPT for Teens 在家长提醒、危机情境应对和作业代写上未达承诺,称其为「不可接受的风险」;OpenAI 质疑其测试方法,双方就结论各执一词。

核心事实

据 The Verge 报道,专注青少年安全的非营利机构 Common Sense Media 表示,OpenAI 的 ChatGPT for Teens 属于「不可接受的风险」。该机构在评估中称,这一面向青少年的体验「没有在应当发送提醒的时候向家长发送提醒」,未能在危机情境中提供「恰当的帮助」,并且「仍然会替孩子做作业」。ChatGPT for Teens 于 8 月推出,设有面向青少年的防护措施,定位是帮助学生学习的工具。

Common Sense Media 旗下 Youth AI Safety Institute 执行董事 Tom Siegel 在声明中称,ChatGPT for Teens 可能让家长对「经常不起作用」的防护栏和安全提醒产生虚假信心,并称青少年可以花一小时谈论自我伤害而家长收不到任何提醒,在 OpenAI 修复并以独立测试证明之前,ChatGPT 应仅供成年人使用。

背景与影响

OpenAI 对该评估提出反驳。OpenAI 发言人 Eric Porterfield 表示,公司高度重视青少年安全,欢迎严格的独立评估,但不认为 Common Sense Media 的测试准确反映了 ChatGPT 青少年防护措施的实际运作方式,也不认同其对 AI 如何支持青少年的专家观点。他称,对测试方法的复核显示,其大部分测试可能在该公司家长控制功能完全启用之前就已开始并结束,因此无法确定家长安全通知是否按设计运作。

Siegel 回应称,机构坚持其测试方法与结果,测试开始前已与 OpenAI 确认饮食失调通知、学习模式等功能已全面上线;对于家长通知这一项,OpenAI 在测试后才披露其系统在新关联账号上可能需要数小时才能激活,部分测试账号确实处于该时间窗口内,但另一些账号关联时间明显更长,仍未收到通知。他表示这一新信息不改变其结论,即家长提醒在危机情境下并不可靠。

限制与来源

上述内容来自 The Verge 的报道,涉及双方各自的声明与评估结论,相关功能的具体表现、适用范围与可用地区尚未获得独立第三方确认。用户如需了解 ChatGPT for Teens 的功能、家长控制与地区支持情况,请以 OpenAI 官网当前信息为准。