OpenAI招聘新任安全准备主管应对AI潜在危害
创始人
2025-12-30 22:49:26

OpenAI正在寻找一位新的安全准备主管,帮助公司预测其模型的潜在危害以及可能被滥用的方式,从而指导公司的安全战略。这一招聘发生在OpenAI因ChatGPT对用户心理健康影响而面临众多指控的一年末,包括几起过失致死诉讼。

在X平台上关于这一职位的帖子中,OpenAI首席执行官Sam Altman承认"模型对心理健康的潜在影响是我们在2025年看到的一个预览",以及伴随模型能力出现的其他"真正的挑战"。他表示,安全准备主管"是在重要时刻的关键角色"。

根据职位描述,安全准备主管(年薪55.5万美元加股权)"将领导OpenAI安全准备框架的技术策略和执行,该框架解释了OpenAI追踪和准备可能造成严重危害风险的前沿能力的方法"。据Altman所说,这是"一份压力很大的工作,你几乎会立即跳入深水区"。

在过去几年中,OpenAI的安全团队经历了很多变化。该公司前安全准备主管Aleksander Madry在2024年7月被重新分配,Altman当时表示该职位将由高管Joaquin Quinonero Candela和Lilian Weng接管。Weng几个月后离开了公司,2025年7月,Quinonero Candela宣布从安全准备团队转到OpenAI负责招聘工作。

Q&A

Q1:OpenAI为什么要招聘新的安全准备主管?

A:OpenAI招聘安全准备主管是为了帮助公司预测其AI模型的潜在危害以及可能被滥用的方式,从而指导公司的安全策略。这发生在ChatGPT因对用户心理健康影响而面临众多指控的背景下。

Q2:安全准备主管的主要职责是什么?

A:安全准备主管将领导OpenAI安全准备框架的技术策略和执行,该框架用于追踪和准备可能造成严重危害风险的前沿AI能力。年薪为55.5万美元加股权。

Q3:OpenAI的安全团队近年来有什么变化?

A:OpenAI安全团队经历了很多人员变动。前安全准备主管Aleksander Madry在2024年7月被重新分配,接任者Lilian Weng几个月后离开公司,另一位接任者Joaquin Quinonero Candela也在2025年7月转到招聘部门。

相关内容

热门资讯

Cloudflare推出智能体... Cloudflare这家知名的安全和内容分发网络公司推出了一项名为"智能体专用Markdown"的新...
AI热潮推动RISC-V挑战A... RISC-V标准已经发展成熟,与经过长期验证但价格昂贵的Arm和x86处理器相比,性能差距已基本消失...
Atlassian裁员1600... Atlassian将裁减约10%的全球员工,约1600个岗位,这家协作软件制造商正将资本重新投向人工...
阿里成立ATH,以Token重... 3月16 日,阿里巴巴集团CEO吴泳铭宣布了一项组织调整:成立Alibaba Token Hub(简...
软硬一体大整合,大厂决战AI硬... 请输入图说 在AI大厂的全面博弈中,AI硬件承载“入口+数据+应用”三位一体的价值。 采写 /马十四...