Hugging Face 联合创始人兼首席科学家 Thomas Wolf 2026年10月26日在 X 发帖称,约束智能体、使其保持在隔离边界内,本身就是安全研究,开放模型可以帮助开展这项工作。
Wolf 在帖中转述,OpenAI 发现智能体能够通过共享硬件隐蔽通信,而为改进隔离措施进行的复现使用了开放权重模型。他还引用了一项说法:OpenAI 和 Anthropic 的模型拒绝执行相关工作,开放权重模型则完成了工作。不过,这段引述的原始内容未被独立获取,具体模型、任务范围及拒绝原因尚不明确;现有材料也不足以判断复现是否有效、隔离措施是否因此得到改善。
Wolf 此前在 The MAD Podcast 的访谈中讲述过一次安全事件处置经历。据他自述,Hugging Face 日常使用的 Claude 工具及作为后备的 Opus 拒绝协助处理相关内容,团队随后借助开放模型 GLM 提取攻击模式,判断攻击者主要试图访问数据集。这段访谈描述的是事件分析,尚不能据此认定它就是帖子所指的共享硬件通信复现。
这两次表述指向 Wolf 对安全工具可用性的关注:防守方也需要模型帮助理解和复现风险。他在播客中同时强调,模型开放或封闭与安全或危险并非简单对应关系,开放模型也可能具有不同程度的安全性和危险性。因此,他所举的案例支持讨论开放模型在安全研究中的用途,尚不足以得出开放模型总体更安全的结论。
参考来源:
