Jan Leike于2026年11月20日在X上评价加州政府的AI政策报告,认为让政府拥有调节AI开发速度的机制尤其有价值,并特别提到递归自我改进。

加州政府运营署(GovOps)对《AI Safety in 2026 and Beyond》的介绍称,报告提出的保障措施包括强制独立监督、建立可执行的安全标准、授权紧急关闭危险AI模型,以及限制最令人担忧的AI开发形式。这些是报告建议,不能据此认定加州已经建立并运行模型紧急关闭制度。

这份报告所涉及的工作源于此前的行政部署。加州州长办公室在9月18日的公告中称,行政令召集专家在两个月内提出加强AI安全法律的指导意见,当时考虑的方案包括要求独立第三方为前沿AI公司编写安全计划,以及要求公司为前沿模型开发紧急关闭机制。GovOps称,该机构受命加快推进第三方监督、独立审计和紧急关闭机制的创建工作。

Leike的表态将关注点放在政府能否调节开发速度上。对研发团队而言,值得继续关注的是这些建议是否转化为具体法律要求,以及干预的触发条件和执行程序。现有官方介绍尚不足以确定这些细节,也未给出递归自我改进的政策定义。

参考来源: