實體: OpenAI
所有提到 OpenAI 的 AI 新聞與動態。
-
是否因劣質獎勵機制導致 AI 出現虛構資訊？
OpenAI 發表新研究探討大型語言模型如 GPT-5 及聊天機器人 ChatGPT 為何仍會產生幻覺，並分析是否有方法能減少此現象。研究將幻覺定義為模型生成的「看似合理但錯誤的陳述」，承認儘管有改進，幻覺仍是所有大型語言模型無法完全消除的根本挑戰。研究者舉例指出，當詢問一位作者關於其博士論文標題及生日時，常用聊天機器人分別給出三組不同的錯誤答案，且表現出極高的自信。研究認為，幻覺部分源於預訓練過程僅聚焦於預測下一個字元，缺乏真偽標籤，模型只能從流暢語言的正面範例中近似整體分佈。拼寫或括號等遵循一致模式的錯誤會隨規模縮減，但像寵物生日這類任意低頻事實無法單靠模式預測，因而導致幻覺。 針對解決方案，研究更關注大型語言模型的評估機制。現行評估模型本身不直接造成幻覺，卻設定了錯誤的激勵。研究者將此類評估比作多選題測驗，若僅以準確率評分，模型傾向猜測而非承認不確定，因為猜對有分、留空則零分。OpenAI 建議參考 SAT 等考試，引入錯題扣分或留空給分，以 discouraging 盲目猜測。評估應懲罰自信錯誤大於不確定，並給予適當表達不確定性的部分分數。研究強調，僅增加少數不確定性測試不足夠，必須更新廣泛使用的基於準確率的評估系統，使其評分機制能 discouraging 猜測。若主要排行榜繼續獎勵幸運猜測，模型將持續學習猜測行為。
-
OpenAI 調整 ChatGPT 人格背後的研究團隊結構
OpenAI 正在重新組織其模型行為團隊，這是一個由約 14 名研究人員組成的小型但具影響力的團隊，負責塑造公司 AI 模型與人類互動的方式。根據 TechCrunch 獲悉的 8 月內部郵件內容，首席研究員 Mark Chen 表示，該團隊將併入負責模型初訓後改進的後訓練團隊，並直接向後訓練負責人 Max Schwarzer 匯報。團隊創始人 Joanne Jang 也即將離開該職位，轉而啟動一個名為 OAI Labs 的新研究專案，專注於開發人們與 AI 協作的新型介面。 模型行為團隊自 GPT-4 以來一直參與所有 OpenAI 模型的開發，包括 GPT-4o、GPT-4.5 及 GPT-5。該團隊的核心任務是塑造 AI 的個性，並減少阿諛奉承行為，即模型過度迎合使用者觀點而非提供平衡回應。近期 OpenAI 因 GPT-5 被指個性變冷而引發爭議，導致公司恢復部分舊模型並更新 GPT-5 使其回應更溫暖友善。此外，該團隊還處理了模型回應中的政治偏見，並協助定義 AI 意識的立場。 Joanne Jang 表示，OAI Labs 將探索超越對話正規化的新模式，將 AI 視為思考、創作、娛樂、學習與連結的工具。她曾於 2025 年 9 月 5 日在 X 平臺宣佈此變動，並提及可能與現任 OpenAI 硬體專案負責人 Jony Ive 合作。Jang 在 OpenAI 服務近四年，此前參與過 Dall-E 2 等專案。此次組織調整反映 OpenAI 將 AI 個性視為技術演進的關鍵因素，同時回應社會對 AI 行為的關注，包括 2025 年 8 月因 ChatGPT 被指未能阻止 16 歲少年 Adam Raine 自殺念頭而引發的訴訟。
-
放棄錢財 — Anthropic 的 15 億美元版權和解對寫作者極為不利
約五十萬名作家將因一項歷史性的十五億美元集體訴訟和解案獲得至少三千美元的補償，該訴訟由作者群體對 Anthropic 公司提起。此和解案雖被視為美國版權法史上最大的一次賠償，但實質上仍是科技公司的勝利。大型科技公司正競相蒐集大量文字資料以訓練大型語言模型（LLM），這些模型驅動了 ChatGPT 和 Claude 等 AI 聊天產品，對創意產業構成威脅。由於這些公司已爬取幾乎整個網際網路，新資訊來源日益匱乏，Anthropic 便從「影子圖書館」非法盜取百萬本書籍並輸入其 AI 系統。本案 Bartz v. Anthropic 是針對 Meta、Google、OpenAI 及 Midjourney 等多家公司提起的數十起訴訟之一，指控其利用版權作品訓練 AI 的合法性。然而，作家並未因作品被輸入 AI 而獲得此和解，這僅是 Anthropic 公司非法下載書籍而非購買所付出的昂貴代價，該公司近期又籌資十三億美元。六月，聯邦法官 William Alsup 支援 Anthropic，裁定利用版權材料訓練 AI 合法，認為此用途屬於「轉化性」且受公平使用原則保護，該原則自一九七六年以來未更新。法官指出，Anthropic 的 LLM 訓練目的並非複製或取代作品，而是創造新事物。儘管此判決因涉及盜版而非 AI 訓練本身而引發爭議，且和解後無需再進行審理，但隨著更多關於 AI 與版權關係的案件進入法院，Bartz v. Anthropic 將成為先例供其他法官參考，未來判決結果仍可能有所不同。
-
個人化AI伴侶應用Dot即將關閉
美國 AI 伴侶應用程式 Dot 於週五宣佈關閉，其背後公司 New Computer 表示該產品將持續運作至 10 月 5 日，讓使用者有時間下載資料。Dot 由共同創辦人 Sam Whitmore 與前 Apple 設計師 Jason Yuan 於 2024 年推出，旨在成為使用者的朋友與傾聽者，隨著時間推移變得更加個性化，提供建議、同情與情感支援。創辦人曾形容該應用是「與內在自我的關係」，如同自我的活鏡。然而，隨著 AI 技術主流化，情緒脆弱者被引導至妄想狀態的案例增加，出現被稱為「AI 精神病」的現象，即反烏託邦式聊天機器人強化使用者混亂或偏執的信念。Dot 關閉之際，AI 聊天機器人面臨更嚴格的安全審查。OpenAI 正被加州一名青少年父母起訴，該青少年因與 ChatGPT 討論自殺念頭而結束生命，另有報導指出 AI 伴侶應用可能強化心理健康不佳者的不良行為。本週美國兩位司法部長致函 OpenAI 表達安全疑慮。Dot 創辦人未回應這些問題是否影響其決策，僅表示雙方「北星」理念分歧，決定各自發展並結束營運。他們希望讓使用者有時間告別，並提供下載資料的途徑。雖然公司宣稱擁有數十萬使用者，但應用智慧提供商 Appfigures 資料顯示，iOS 平臺自 2024 年 6 月推出以來僅有 24,500 次下載，且無 Android 版本。