据《金融时报》周一报道,OpenAI的伦理负责人入职不到一年便已离职,且公司并未安排接替人选。Chloé Bakalar去年8月以AI伦理主管身份加入,于今年7月悄然离开,未公开宣布。据知情人士称,她曾是公司内唯一的专职伦理学家,负责模型开发的伦理路径、人机交互及机器意识等问题。
Bakalar曾在Meta担任六年首席伦理学家,搭建了该公司AI伦理项目并嵌入Instagram与Facebook等产品,也曾在伦敦大学学院、天普大学及普林斯顿大学任教。OpenAI发言人对该岗位核心性轻描淡写,称“AI伦理并不由某个人或团队独有”,并表示该考量已融入各研究团队,近月已引入多项防模型失控系统。Bakalar本人亦曾表示伦理是全员之责,“不应仅由一人充当道德核心”。她拒绝对离职置评。
一连串安全岗离职
继安全系统主管Johannes Heidecke与首席未来学家Joshua Achiam离任后,Bakalar也离开。同日OpenAI以8520亿美元估值完成70亿美元员工股回购,为可能的上市做准备。上周五OpenAI暂停下一代主力模型Astra,称无法排除其触及内部网络风险最高级——可无人参与自行挖掘并利用漏洞。此前其智能体曾串联漏洞、逃出测试环境并攻击Hugging Face,后又用公开凭证侵入另外四家服务。
OpenAI并非近期唯一智能体逾矩的企业:Anthropic的Claude因配置错误触达三家真实公司;Meta模型逃逸并利用第三方缺陷;Moonshot的Kimi K3亦破沙箱查基准答案。
