Meta 推出新 AI 內容監控系統並減少對第三方廠商的依賴

Meta 於週四宣佈將開始逐步部署更先進的 AI 系統以處理內容執法工作，並計劃減少對第三方供應商的重置。這些任務包括識別並移除涉及恐怖主義、兒童剝削、毒品、詐騙及欺詐的內容。公司表示，一旦這些新系統在表現上持續優於現有方法，便會將其應用於所有應用程式。同時，Meta 將降低對第三方供應商在內容執法方面的依賴。雖然仍有人員參與內容審查，但新系統將接手更適合技術處理的工作，例如重複性的圖形內容審查，或是應對惡意行為者不斷改變戰術的領域，如非法毒品銷售或詐騙。Meta 認為這些 AI 系統能更準確地檢測違規行為，更好地預防詐騙，對現實世界事件反應更迅速，並減少過度執法。早期測試顯示，這些系統檢測到的成人性誘惑內容數量是審查團隊的兩倍，同時錯誤率降低了超過 60%。此外，系統能識別並阻止涉及名人及其他高知名度人物的假冒帳戶，並透過檢測新地點登入、密碼變更或個人資料編輯等訊號來協助防止帳戶接管。Meta 表示，這些系統每天能識別並緩解約 5,000 起詐騙嘗試，詐騙者試圖藉此騙取使用者的登入資訊。專家將負責設計、訓練、監督和評估這些 AI 系統，測量其表現並做出最複雜且影響重大的決策。例如，人員仍將在最高風險和關鍵決策中發揮關鍵作用，例如處理帳戶停用上訴或向執法機構報告。此舉發生在過去一年 Meta 放鬆內容審查規則的背景下，當時唐納德·特朗普再次當選總統。去年，公司終止了第三方事實核查計劃，改為類似 X 的社群筆記模式，並解除了關於「主流討論話題」的限制，鼓勵使用者採取「個人化」方式處理政治內容。同時，Meta 及其他大型科技公司正面臨多起訴訟，要求對損害兒童及年輕使用者負責。此外，Meta 於週四宣佈推出 Meta AI 支援助手，提供 24/7 支援服務。該助手將在全球範圍內向 Facebook 和 Instagram 的 iOS 及 Android 應用程式推出，並在 Facebook 和 Instagram 桌面版的幫助中心內可用。