OpenAI 正尋找新的應變準備部門主管

OpenAI 正在招聘一位新的高管，負責研究從網路安全到心理健康等領域新興的 AI 相關風險。執行長 Sam Altman 在 X 平臺上承認，AI 模型開始呈現真實挑戰，包括對心理健康的潛在影響，以及過於擅長網路安全的模型開始發現關鍵漏洞。Altman 呼籲申請者協助世界瞭解如何讓網路安全防禦者獲得尖端能力，同時確保攻擊者無法利用這些工具造成傷害，並確保系統更安全。此職位為「準備工作負責人」，負責執行公司的準備工作框架，該框架解釋了 OpenAI 追蹤和準備前沿能力以應對嚴重危害新風險的方法。該職位的薪資為每年 555,000 美元加股票。OpenAI 於 2023 年首次宣佈成立準備工作團隊，負責研究潛在的災難性風險，包括即時的釣魚攻擊或更具推測性的核威脅。不到一年後，OpenAI 將準備工作負責人 Aleksander Madry 調職至專注於 AI 推理的職位。其他 OpenAI 的安全主管也離開公司或擔任與準備工作和安全無關的新職位。公司最近更新了其準備工作框架，表示如果競爭對手實驗室發布未具備類似保護的高風險模型，可能會調整安全要求。隨著生成式 AI 聊天機器人受到對其心理健康影響的越來越多的審查，近期訴訟聲稱 OpenAI 的 ChatGPT 強化了使用者的妄想、增加了其社會孤立，甚至導致一些人自殺。公司表示持續改進 ChatGPT 識別情緒困擾的能力及連結使用者至現實世界支援。