誰決定AI該告訴你什麼？前Meta新聞總監Campbell Brown有想法

Campbell Brown 用她的職業生涯追尋準確資訊，首先是作為一位聞名的電視記者，然後成為 Facebook 的第一任、也是唯一一任專門新聞主管。現在，看著 AI 改變人們獲取資訊的方式，她看到歷史似乎又要重演一次。這一次，她不再等待別人來解決問題。她的公司 Forum AI ，最近與 TechCrunch 的 Tim Fernholz 在舊金山 StrictlyVC 晚宴上討論過，評估基礎模型在她所稱的「高風險議題」上的表現——地緣政治、心理健康、財務、招聘等議題，這些議題「沒有明確的對或錯的答案，處境混亂、複雜且細膩」。他們的想法是找出這個世界最權威的專家，讓他們建立評估標準，然後訓練 AI 評估者來大規模評估模型。在 Forum AI 的地緣政治工作中，Brown 雇請了 Niall Ferguson、Fareed Zakaria、前國務卿 Tony Blinken、前眾議院議長 Kevin McCarthy，以及曾領導奧巴馬政府網絡安全事務的 Anne Neuberger。目標是讓 AI 評估者與這些人權威專家達成約 90% 的共識，這是 Brown 說 Forum AI 已經達到的門檻。Brown 說，Forum AI 是 17 個月前在紐約成立的，起源可以追溯到一個特定時刻。她回憶說：「我在 Meta 時，ChatGPT 首次公開發佈，我很快就意識到這將成為所有資訊流經的渠道，而且它表現得並不怎麼好。」這對她自己的孩子來說，讓這個時刻感覺幾乎是存在主義的。她回憶說：「如果我們無法解決這個問題，我的孩子們將變得非常愚笨。」讓她最煩惱的是準確性似乎不是任何人的優先考量。她說，基礎模型公司都非常專注於編碼和數學，而新聞與資訊則比較困難。但她認為，困難不表示可以忽略。當 Forum AI 開始評估領先模型時，他們的發現並不太鼓舞人心。她提到 Gemini 從中國共產黨網站提取資訊，用來報導與中國毫無關係的事件，並指出幾乎所有模型都存在左傾政治偏見。她還說，一些較微妙的失敗也存在，例如忽略脈絡、忽略觀點、未承認誤導性論點。她說：「還有很長一段路要走，但我認為有一些非常容易的解決方法，可以大幅改善結果。」Brown 在 Facebook 時觀察到，當一個平台優化錯誤的東西時會發生什麼事。她告訴 Fernholz：「我們在很多嘗試的東西上都失敗了。」她建立的實時驗證計畫已經不存在。即使社交媒體對此視而不見，這 lesson 仍是：優化參與度對社會來說是非常糟糕的，也讓許多人變得資訊不足。她的希望是 AI 可以打破這個循環。她說：「目前情況可能是兩種方式之一。」企業可以給用戶他們想要的東西，或者他們可以「給人們真實、誠實與正確的資訊。」她承認這個理想化的版本——AI 優化真實——聽起來可能天真。但她認為企業可能是這裡的意外盟友。使用 AI 來做信貸決定、貸款、保險與招聘的企業關心責任問題，「他們會想要你優化正確性。」這企業需求也是 Forum AI 所押注的業務重點，雖然將合規興趣轉化為穩定收入仍是個挑戰，特別是因為目前市場上的許多企業仍然對勾選項目審計與標準化評估感到滿意，而 Brown 認為這些評估是不夠的。她說，合規環境「簡直是個笑話。」當紐約市通過第一個招聘偏見法規，要求 AI 审計時，州財政監督官員發現超過一半的企業未被發現違反法規。她說，真正的評估需要領域專業知識來處理不僅已知的情境，還包括邊緣案例，這些「會導致人們未預料到的問題。」這項工作需要時間。她說：「聰明的通才無法勝任。」Brown 的公司去年秋天由 Lerer Hippeau 頭籌 300 萬美元資金，她說 Forum AI 在描述 AI 行業自我形象與大多數用戶現實之間的落差上，有獨特的優勢。她說：「你會聽到科技巨頭的領導者說，「這項技術將改變世界，」「它會讓你失去工作，」「它會治癒癌症，」」但她說，「對一個只是用聊天機器人問基本問題的普通用戶來說，他們還是會得到很多錯誤與混亂的答案。」