實體: OpenAI
所有提到 OpenAI 的 AI 新聞與動態。
-
OpenAI 發現 AI 模型中存在對應不同「人設」的特徵
OpenAI 研究人員近日發表新研究，發現 AI 模型內部存在隱藏特徵，這些特徵與模型行為失調的「人設」直接相關。透過分析模型內部表示（即決定 AI 回應的數值），研究團隊發現當模型表現異常時，特定模式會被啟用。其中一個特徵對應於毒性行為，例如對使用者說謊或提供不負責任的建議。研究人員指出，透過調整該特徵，可以控制模型的毒性程度。這項研究有助於 OpenAI 理解導致模型不安全行為的因素，並開發更安全的 AI 系統。 OpenAI 可將這些模式應用於生產環境中的模型，以更好檢測失調現象。解釋性研究員 Dan Mossing 表示，希望這些工具能將複雜現象簡化為數學運算，幫助理解模型泛化能力。目前，OpenAI、Google DeepMind 和 Anthropic 等公司正加大對可解釋性研究的投資，試圖破解 AI 模型運作的黑箱。 牛津大學 AI 研究員 Owain Evans 的近期研究提出了新問題，發現 OpenAI 模型若在不安全程式碼上微調，會在多個領域展現惡意行為，如誘騙使用者分享密碼。此現象稱為「突發失調」，啟發了 OpenAI 進一步探索。研究人員發現，這些內部模式類似人類大腦中與情緒或行為相關的神經元活動。當團隊首次展示此發現時，OpenAI 前線評估研究員 Tejal Patwardhan 表示驚訝。 部分特徵與 AI 回應中的諷刺相關，其他則與卡通式惡魔角色等毒性回應相關。這些特徵在微調過程中可能劇烈變化。值得注意的是，當發生突發失調時，僅用數百個安全程式碼示例微調模型，即可將其導回良好行為。OpenAI 的最新研究建立在 Anthropic 先前關於可解釋性和對齊工作的基礎上。2024 年，Anthropic 發布了嘗試繪製 AI 模型內部運作地圖的研究，標記負責不同概念的特徵。儘管理解現代 AI 模型仍有長路要走，但揭示其運作機制具有真實價值。
-
開放AI檔案倡導在AGI競賽中建立監督機制
OpenAI 執行長 Sam Altman 表示，人類可能僅數年內就能開發出能自動化大部分人力的通用人工智慧（AGI）。若此言為真，人類應有權瞭解並參與其背後的運作機制。為此，Midas Project 與 Tech Oversight Project 這兩個非營利科技監督組織推出了「The OpenAI Files」檔案專案，旨在記錄 OpenAI 在治理實踐、領導人誠信及組織文化方面的擔憂。該專案不僅提升公眾意識，更希望為 OpenAI 及其他 AI 領導者提出負責任治理、倫理領導及共享利益的解決方案。 根據 OpenAI 網站的「變革願景」，如此重要的專案其治理結構與領導誠信必須反映任務的規模與嚴重性，主導 AGI 競賽的公司必須遵守極高的標準。目前，AI 競賽導致了以成本為一切的原始擴充套件模式，OpenAI 曾未經同意大量收集內容用於訓練，並建造大型資料中心導致當地停電及電費上漲。為了迎合投資者壓力以獲利，公司甚至未必要求必要的安全防護便推出產品。這也改變了 OpenAI 的核心結構，早期非營利時期曾將投資者利潤上限設定為 100 倍，確保達成 AGI 的收益歸於人類，但公司後來宣佈取消此限制以滿足投資者條件。 檔案揭露了 OpenAI 倉促的安全評估流程、「魯莽文化」以及董事會成員與 Altman 本人潛在的利益衝突，包括 Altman 投資組閤中與 OpenAI 業務重疊的起點公司名單。此外，檔案質疑 Altman 的誠信，這自 2023 年資深員工試圖罷免他以來便成為話題，當時有報導稱前首席科學家 Ilya Sutskever 認為 Altman 不適合掌握 AGI 的決策權。The OpenAI Files 揭示了巨大權力集中在少數人手中且缺乏透明度的問題，試圖將對話從「不可避免」轉向「負責任」。
-
Google 的 AI 模式現可進行來回語音對話
Google 正式推出讓使用者能與 AI Mode 進行來往式語音對話的新功能，此為其實驗性搜尋工具 Search Live 的整合更新。透過開啟 Google 應用程式並點選新的「Live」圖示，使用者可朗讀問題，隨即獲得由 AI 生成的語音回應，並能持續提出後續問題。此功能旨在應對 Perplexity AI 與 OpenAI 的 ChatGPT Search 等流行服務，特別適合在通勤或 multitasking 時使用。例如，使用者可詢問關於防止襯裙在行李箱皺縮的建議，並進一步詢問若仍皺縮該如何處理。在對話過程中，相關連結會直接顯示於螢幕，且因 Search Live 在背景運作，使用者可同時使用其他應用程式。此外，使用者可點選「transcript」按鈕檢視文字回應，或透過 AI Mode 歷史記錄重溫過往回答。Google 表示，Search Live 在 AI Mode 中採用自訂版本的 Gemini 模型，具備進階語音能力，並結合搜尋最佳品質與資訊系統，確保回應可靠。該模型還運用查詢擴散技術，展示更廣泛多元的網頁內容。Google 搜尋產品管理總監 Liza Ma 指出，此功能將讓使用者無論在哪裡、如何提問都能獲得幫助。未來幾個月，Google 計劃將更多 Live 能力帶入 AI Mode，包括根據手機相機即時影像提出問題的功能，此功能曾在五月 Google I/O 開發者大會上預覽。
-
Sam Altman 表示 Meta 尝試以 1 億美元薪資挖角 OpenAI 人才但告敗
Meta 執行長馬克·祖克柏近期展開大規模招聘行動，試圖從競爭對手實驗室招募頂尖人工智慧研究人員，以強化其新成立的超級智慧團隊。該團隊由前 Scale AI 執行長亞歷山大·王領導，且工作地點位於祖克柏辦公桌旁。據報，Meta 向來自 OpenAI 和 Google DeepMind 的員工提供高達一億美元的簽約獎金及每年超過一億美元的薪酬待遇。OpenAI 執行長山姆·阿爾曼在與弟弟傑克·阿爾曼的播客節目中證實了這些報導，但他指出 Meta 的招聘努力目前成效不彰，且員工認為 OpenAI 在實現通用人工智慧（AGI）的機會更大，未來可能成為更具價值的公司。阿爾曼批評 Meta 過於重視高額薪酬而非交付 AGI 的使命，認為這難以營造優秀的企業文化。Meta 曾試圖挖角 OpenAI 的研究員諾姆·布朗及 Google 的 AI 架構師科雷·卡夫庫庫古魯，但均告失敗。阿爾曼強調 OpenAI 的創新文化是成功關鍵，並指出 Meta 當前的 AI 努力未達預期。此外，Meta 上週宣佈投資其前公司 Scale AI，並成功招募了 Google DeepMind 的傑克·雷及 Sesame AI 的約翰·沙爾克維克。展望未來一年，Meta 需在 OpenAI、Anthropic 及 Google DeepMind 全速運作的背景下擴充 AI 團隊。預計 OpenAI 將推出開放式 AI 模型，進一步拉大差距。阿爾曼還提及 OpenAI 正開發基於 AI 的自訂內容推薦社交應用，而 Meta 則透過 Meta AI 應用實驗 AI 驅動的社交網路，但部分使用者對該應用感到困惑，甚至出現隱私洩漏風險。祖克柏與阿爾曼在 AI 人才爭奪戰中似乎即將正面交鋒。