OpenAI 于 2026 年 9 月 30 日披露,已识别并阻断一项试图提取模型受保护推理内容的协同活动,并封堵一条可通过跨会话重放恢复推理内容的路径。此次活动的规模、处置结果和人员归因均来自 OpenAI 的披露。
受保护推理是模型处理任务时的内部记录,可能包含最终答案中未展示的信息。OpenAI 将此次活动描述为符合“对抗性蒸馏”的特征,即未经授权,系统性地使用一个模型的输出或推理来训练、复现或改进另一个模型。披露没有说明此次活动实际获得了多少推理内容,也没有证实这些内容已用于训练其他模型。
据 OpenAI 描述,操作者没有破解其加密、入侵数据库或直接访问已存储的用户对话,而是操纵模型交互,使受保护推理以请求者可见的形式重现。公司观察到的一种尝试,是将某次对话中的加密推理内容复制到另一次对话,再要求模型解密并转写隐藏内容。这一描述并不意味着每次尝试都成功。
OpenAI 称,活动始于 7 月 1 日;7 月 24 日和 25 日的高峰涉及来自超过 4000 名用户、符合相关提取模式的 1.6 万次请求。随后调查发现,相关提示模式活动涉及一个超过 1.5 万名用户的集群,公司称已于 7 月 28 日将其阻断。两组用户数字对应不同统计范围,不能将超过 1.5 万名用户全部计入上述两天的请求高峰。
在归因方面,OpenAI 将活动中的一个核心集群归因于与 Kimi 开发商 Moonshot AI 有关联的人员,同时表示无法确定所观察到的全部操作者是否属于同一方。这是 OpenAI 的归因评估,不能据此将全部相关活动归为 Moonshot AI 组织实施。
OpenAI 称,已封堵一条允许持有其他用户加密推理内容的人通过重放恢复其内容的路径,并增加检查,以检测并暂缓可能暴露推理内容的流式输出。公司还称,当相关活动转向第三方服务时,它与服务提供商合作识别和阻断涉事账户。
从这次披露看,防护需要覆盖推理内容在不同对话及服务之间的复用,以及最终输出环节。这是依据攻击路径和处置措施作出的分析;OpenAI 所称的路径封堵与账户处置,尚不能说明此类提取风险已被彻底消除。
参考来源:
