實體: GPT
所有提到 GPT 的 AI 新聞與動態。
-
前OpenAI工程師描述實際在該公司工作的真實情況
前 OpenAI 工程師 Calvin French-Owen 於三週前辭職，並發表部落格分享在該公司工作一年的經歷，包括開發 Codex 程式碼代理的艱辛過程。Codex 是 OpenAI 的新產品，與 Cursor 及 Anthropic 的 Claude Code 等工具競爭。French-Owen 表示辭職並非因內部紛爭，而是希望重返創業家身份，他曾共同創立被 Twilio 以 32 億美元收購的 Segment。他指 OpenAI 在一年內從 1,000 人快速擴張至 3,000 人，三月時 ChatGPT 活躍使用者數已超過 5 億。這種高速成長雖帶來巨大動力，但也引發混亂，溝通、報告結構及產品發布等面臨挑戰。儘管團隊仍像小型起點公司般靈活，但多團隊重複努力且編碼技能參差，導致後端程式碼庫成為雜亂之地。公司運作仍高度依賴 Slack，類似早期 Meta 的「快速移動並打破事物」精神，且大量員工來自 Meta。French-Owen 描述其團隊僅用七週便完成 Codex 的開發與發布，啟動後即獲得大量使用者，展現 ChatGPT 的強大吸引力。由於高度受關注，公司採取嚴密保密文化以防洩漏，同時密切監控 X 平臺上的反饋。針對公眾對 OpenAI 安全性的誤解，French-Owen 指出內部更重視實際安全問題，如仇恨言論、濫用、政治偏見操弄及生物武器等，而非僅關注理論風險。公司意識到數億使用者依賴其大型語言模型，政府與競爭對手均在密切觀察，整體風險極高。
-
Meta修復可能洩露用戶AI提示與生成內容的漏洞
Meta 已修復一項安全漏洞，該漏洞允許 Meta AI 聊天機器人使用者存取並檢視其他使用者的私密提示詞及 AI 生成回應。安全測試公司 AppSecure 的創辦人 Sandeep Hodkasia 向 TechCrunch 獨家表示，Meta 已向他支付一萬美元作為漏洞賞金，以表彰他於 2024 年 12 月 26 日私下披露此漏洞。Hodkasia 指出，Meta 於 2025 年 1 月 24 日部署了修復方案，且未發現任何證據顯示該漏洞被惡意利用。Hodkasia 在檢視 Meta AI 如何允許登入使用者編輯提示詞以重新生成文字和影象後發現此問題。他發現當使用者編輯提示詞時，Meta 的後端伺服器會為提示詞及其 AI 生成回應分配唯一編號。透過分析瀏覽器中的網路流量，Hodkasia 發現他可以更改該唯一編號，導致伺服器返回完全屬於他人的提示詞及回應。此漏洞意味著 Meta 的伺服器未正確驗證請求提示詞及其回應的使用者是否獲授權檢視。Hodkasia 表示，Meta 伺服器生成的提示詞編號「極易猜測」，可能允許惡意行為者使用自動化工具快速更改提示詞編號，從而爬取使用者的原始提示詞。當 TechCrunch 聯絡 Meta 時，Meta 確認已在 1 月修復了該漏洞，且公司發言人 Ryan Daniels 表示，Meta 發現沒有濫用跡象並已獎勵該研究者。此訊息發布於科技巨頭正努力推出並完善其 AI 產品，儘管伴隨許多安全與隱私風險的時期。Meta AI 的獨立應用程式於今年早些時候推出以與 ChatGPT 等競爭對手抗衡，但初期表現艱難，因為部分使用者不慎公開分享了他們以為是私密對話的內容。
-
研究領導者呼籲科技業界監測AI的「想法
OpenAI、Google DeepMind、Anthropic 及多家企業與非營利組織的研究人員共同發表了一份立場檔案，呼籲深入調查如何監控 AI 推理模型的「思維鏈」（Chain-of-Thought, CoT）技術。AI 推理模型如 OpenAI 的 o3 和 DeepSeek 的 R1，其核心特徵在於類似人類使用草稿紙解題的外部化思考過程。作者認為，監控這些思維鏈是控制日益普及且強大的 AI 代理的關鍵方法，能為前沿 AI 的安全措施提供珍貴的決策洞察。然而，研究人員也警告，目前的透明度可能無法持久，並呼籲開發者研究如何維持這種可監控性，避免任何可能降低透明度的幹預。 檔案簽署者包括 OpenAI 首席研究員 Mark Chen、Safe Superintelligence 執行長 Ilya Sutskever、諾貝爾獎得主 Geoffrey Hinton、Google DeepMind 共同創辦人 Shane Legg、xAI 安全顧問 Dan Hendrycks 以及 Thinking Machines 共同創辦人 John Schulman 等業界領袖。首作者來自英國 AI 安全研究所和 Apollo Research，其他簽署者涵蓋 METR、Amazon、Meta 及加州大學伯克利分校。這份檔案標誌著在 Meta 以百萬美元高薪挖角 OpenAI、Google DeepMind 和 Anthropic 頂尖研究員的激烈競爭背景下，AI 行業領袖為提升 AI 安全研究而展現的團結。 OpenAI 於 2024 年 9 月公開了首個 AI 推理模型 o1 的預覽，隨後 Google DeepMind、xAI 和 Anthropic 等公司也推出了具備類似能力的競爭對手。儘管 AI 效能在過去一年大幅提升，但業界對其內部運作機制仍知之甚少。Anthropic 執行長 Dario Amodei 曾承諾到 2027 年解開 AI 模型的「黑箱」並增加可解釋性投資，但早期研究顯示思維鏈未必能完全可靠地反映模型的決策過程。OpenAI 研究人員則認為思維鏈監控未來可能成為追蹤對齊與安全的有效方式。這份立場檔案旨在為這一新興研究領域提供訊號並吸引關注，以確保在技術快速演變中維持安全與透明。
-
迷思特發布voxtral，其首款開放源碼AI音訊模型
法國人工智慧公司 Mistral 於週二推出其首款面向企業的音訊模型家族 Voxtral，旨在挑戰封閉式企業系統的壟斷地位，提供開放權重的替代方案。Mistral 宣稱 Voxtral 是首款能在生產環境中部署真正可用語音智慧的開放模型，讓開發者不再需要在廉價但理解力不足的開放系統與功能良好但昂貴且封閉的系統之間做選擇。該模型可轉錄長達 30 分鐘的音訊，並憑藉 Mistral Small 3.1 的基礎大語言模型架構，能理解長達 40 分鐘的內容，支援使用者就音訊內容提問、生成摘要或將語音指令轉化為即時動作，例如呼叫 API 或執行函式。Voxtral 支援多國語言，包括英語、西班牙語、法語、葡萄牙語、印地語、德語、荷蘭語和義大利語。公司推出兩種變體，Voxtral Small 擁有 240 億引數，適合大規模生產部署，其效能與 ElevenLabs Scribe、GPT-4o-mini 及 Gemini 2.5 Flash 相當；Voxtral Mini 則擁有 30 億引數，適用於本地與邊緣部署。此外，還有一款名為 Voxtral Mini Transcribe 的超經濟版本，專為僅轉錄用途最佳化，宣稱效能優於 OpenAI Whisper 且價格不到其一半。使用者可透過 Hugging Face 下載 API 免費試用，或於 Mistral 的聊天機器人 Le Chat 中測試模型。根據公司說法，將 API 整合至應用程式的起點價格為每分鐘 0.001 美元。此次發布距 Mistral 上月宣佈其首款逐步推理模型家族 Magistral 僅隔一個月。Mistral 作為歐洲頂尖人工智慧企業之一，長期倡導開放原始碼 AI 模型，近期更被 TechCrunch 報導正與投資者洽談籌資高達 10 億美元的事宜。