News
OpenAI 拟用 Daybreak Blue 网络安全会话数据训练模型
据 the-decoder 报道,OpenAI 计划自 11 月 29 日起,将此前被排除在训练之外的 Daybreak Blue 会话数据用于模型训练。该变动通过邮件通知 Trusted Access 计划成员,引发研究者对数据使用边界的担忧。
OpenAI 调整 Daybreak Blue 会话数据用途
据科技媒体 the-decoder 报道,OpenAI 计划从 11 月 29 日起,将 Daybreak Blue 的会话数据用于训练其模型。这一变动通过一封发送给 Trusted Access 计划成员的邮件得到确认。报道称,此前这类数据被排除在训练之外,即使用户关闭了「为所有人改进模型」的设置也不例外。
背景与影响
报道指出,该消息公布后引发了较快反弹,OpenAI 随后又发出一封邮件,承诺提供单独的退出选项。在安全审查中被标记的交互,仍可用于安全目的。报道提到,这一变化让研究者担心出现类似 Buckmaster-Alpöge 事件的情况:数学家 Tristan Buckmaster 与 Levent Alpöge 曾将纳维-斯托克斯方程草稿上传至 OpenAI 的 Codex,OpenAI 随后展示了其自身的证明,但否认使用他们的输入进行训练。报道认为,仅凭怀疑就足以让研究者意识到可能出现的问题。
限制与来源
上述信息来自 the-decoder 的报道,OpenAI 尚未就相关细节作出进一步公开说明,具体适用范围、退出机制的执行方式以及数据保留安排均以官方后续信息为准。本文不构成任何使用建议,用户应查阅 OpenAI 官网当前公布的隐私与数据使用政策。