Neel Nanda于2026年11月16日发文,肯定OpenAI开展外部评估,但认为现有安排未达到他所称的员工级访问承诺。参与合作的Apollo Research公布的规则显示,评估者能够查看部分训练资料,但员工访谈、内部沟通和报告证据的公开仍有边界。

Nanda质疑的核心是评估者能否主动发现问题。他认为,充分访问权限的价值,在于即使公司试图隐藏信息,评估者也有能力发现;在他看来,当前信息流仍由OpenAI控制,外界因而仍须依赖公司的善意。这是他对评估条件的判断,并不说明OpenAI已经隐瞒信息。他提及的Sam承诺,在现有材料中没有可供核对的承诺原文。

据Apollo公告,其计划派出六人团队,在OpenAI内部开展为期四个月的试点,覆盖训练、评估和内部部署。试点要调查的是,模型是否会尝试破坏自身或后续模型的对齐与控制机制,也就是绕过约束其行为的安排。

针对训练是否激励这类行为,Apollo称,已明确的访问内容包括相关训练代码和数据集、带有可用推理轨迹及奖励的强化学习轨迹,以及查询训练中间版本模型的能力;其他评估主张的详细访问安排仍待商定。

限制也写进了规则。Apollo可以建议访谈对象,但参与者由OpenAI选择,正式谈话必须记录,评估者默认不能访问一般频道,例如Slack。即使信息处于商定范围内,OpenAI仍可因其认为合理必要的技术不可行、安全风险或知识产权保护而拒绝提供,但须告知相关项目的存在并书面说明理由;据Apollo披露,OpenAI承诺不单因信息不利而拒绝信息或员工访问。

调查获得的信息,也未必都能进入公开报告。据Apollo公告,基于员工谈话发表的主张,除非Apollo能够独立确立,否则需要OpenAI正式确认。Apollo计划发布两份报告,分别覆盖训练激励,以及评估、内部部署和相关推理的可检测性,并说明方法、结论、局限及可公开的支持证据。

按照Apollo公布的条款,OpenAI可以要求删去保密信息,包括被认为涉及敏感知识产权的支持证据,但不得删去Apollo对各项主张的判断,也不得仅因发现不利而要求删改。因此,读者可能看得到结论,却无法查看全部底层证据。

Apollo获得的一项权利,是公开解释这些限制:它可以说明申请和获得了哪些访问、哪些信息被扣留或延迟、报告材料被删减,以及这些情况对结论的影响。Apollo称,这类“元透明”权利达到其要求,但试点尚未满足其提出的完整访问与披露标准。

Nanda认可先试点、再扩大访问的价值,同时要求OpenAI说明何时、如何达到他所称的员工级访问承诺。对读者而言,后续报告需要连同调查范围和证据公开程度一起阅读:此次公告披露的是评估安排,尚未提供模型安全评估结果。

参考来源: