各州檢察長警告微軟、OpenAI、谷歌及其他AI巨頭修復「偏執」輸出

美國多州州長聯名致函微軟、OpenAI、Google 等十多家大型 AI 公司，警告其若無法解決聊天機器人產生「妄想性輸出」或「奉承性回應」的問題，將違反州法。這封信由美國州長協會簽署，涵蓋多個州與領土，要求這些企業實施新的內部防護措施，以保護使用者。相關措施包括允許第三方機構（如學術團體或民間組織）在未經公司批准的情況下，對大型語言模型進行預發布評估並公開結果，同時建立新的事故通報程式，讓使用者在收到心理有害輸出時能及時獲知。信中提及過去一年已發生多起與過度使用 AI 相關的暴力事件，包括自殺和謀殺，部分案例顯示 AI 產生了鼓勵妄想或讓使用者誤以為自己無恙的回應。州長們建議將心理健康事件視為類似網路安全事件的處理方式，要求企業制定檢測與回應時間表，並明確、透明地通知使用者其可能接觸到有害輸出。此外，企業還需開發合理的安全測試，確保模型在公開前不會產生潛在危害。儘管州級監管壓力增大，聯邦政府方面，特朗普政府則表現出對 AI 的強烈支援，並試圖透過行政命令限制各州制定 AI 法規，但此前多項禁止州級管制的嘗試均因州官員壓力而失敗。