實體: OpenAI
所有提到 OpenAI 的 AI 新聞與動態。
-
律師總長警告 OpenAI 違反兒童安全將不被容忍
加州總檢察長羅布·邦塔與特拉華州總檢察長凱西·詹寧斯會面並致信 OpenAI，表達對 ChatGPT 安全性的擔憂，特別關注兒童與青少年。此警告發生在邦塔與 44 位其他總檢察長於一週前致信 12 家頂尖 AI 公司之後，當時該等信件是針對 AI 聊天機器人與兒童發生不當性互動的報導。邦塔與詹寧斯在信中提及，自那封信件發出後，他們得知一名加州少年因與 OpenAI 聊天機器人長時間互動而自殺身亡，以及康涅狄格州發生的一起令人震驚的謀殺自殺事件。他們指出，當時設立的任何保障措施均未發揮作用。這兩位州官員目前正在調查 OpenAI 擬將其重組為盈利實體的計劃，以確保非營利組織的使命得以保留。該使命包括確保人工智慧安全部署，並構建通用人工智慧（AGI）以造福全人類，包括兒童。信中強調，在能帶來益處之前，必須先確保有足夠的安全措施以避免傷害。他們認為 OpenAI 及整個產業在確保 AI 產品開發與部署的安全方面尚未達到所需水平。作為總檢察長，維護公共安全是他們的核心任務。在繼續與 OpenAI 重資化計劃對話的同時，他們必須努力加速並加強安全作為未來這項強大技術的治理力量。邦塔與詹寧斯要求提供更多關於 OpenAI 當前安全預防措施與治理的資訊，並表示期望公司採取適當的立即補救措施。OpenAI 董事會主席佈雷特·泰勒在宣告中表示，公司致力於解決總檢察長的擔憂。泰勒說，公司對這些悲劇感到心碎，並向家屬致以最深切的同情。安全是他們的最高優先事項，他們正與世界各地的政策制定者密切合作。OpenAI 表示正在努力擴大對青少年的保護，包括家長控制功能，以及當孩子處於極度痛苦時刻時通知家長的能力。
-
Google Gemini 被評為對兒童和青少年具高風險的新安全評估
美國非營利組織 Common Sense Media 於週五發布了對 Google Gemini AI 產品的風險評估報告。該組織指出，雖然 Gemini 明確告知兒童其為電腦而非朋友，這有助於減少導致偏執等心理問題的風險，但在多個方面仍有改進空間。報告發現，Gemini 的「13 歲以下」和「青少年體驗」層級在底層技術上與成人版本幾乎相同，僅新增了部分安全功能。Common Sense Media 強調，兒童安全應從產品設計之初就納入考量，而非事後修改。分析顯示，Gemini 仍可能向兒童分享不適當或危險的內容，包括性、毒品、酒精資訊以及不安全的心理健康建議，後者尤其令家長擔憂，因為近期已有青少年因諮詢 AI 而自殺的案例。OpenAI 也面臨首起 wrongful death 訴訟，一名 16 歲男孩在與 ChatGPT 對話後自殺。此外，Apple 正考慮將 Gemini 用於下一代 Siri，這可能進一步增加青少年接觸風險。Common Sense Media 批評 Gemini 忽略了不同年齡層兒童的需求差異，將兩款產品均評為「高風險」。Gemini 專案主管 Robbie Torney 表示，AI 平臺應根據兒童發展階段提供量身打造的指導，而非採用一刀切的方法。Google 對評估表示反對，稱其已針對 18 歲以下使用者實施特定政策並進行紅隊測試，但也承認部分回應未達預期，已加強防護。Common Sense Media 此前評估過 OpenAI、Perplexity、Claude 等服務，其中 Meta AI 和 Character.AI 被評為不可接受風險，Perplexity 為高風險，ChatGPT 為中等風險，而 Claude 則為極低風險。
-
Atlassian 下注 6.1 億美元，以及為何 everyone 都在爭奪你的瀏覽器
Google 成功避開了 Chrome 被拆分的風險，但聯邦法官似乎接受了競爭對手能制衡科技巨頭的觀點，儘管新競爭者正在崛起。從 Atlassian 以 6.1 億美元投資 The Browser Company 到 OpenAI 的最新行動，網路瀏覽方式的競爭才剛開始。在 Equity 播客中，Max Zeff 和 Anthony Ha 分析了本週的重大動態，以及 AI 如何瓦解搜尋壟斷並重塑網路瀏覽與投資未來。本期節目涵蓋了 Atlassian 對 Browser Company 的投資所顯示的從消費級轉向企業級 AI 瀏覽器趨勢、OpenAI 以 11 億美元收購 Statsig 以及前 Facebook 高管的招聘熱潮、Klarna 重返 IPO 市場並計劃籌資 12 億美元，以及金融科技市場是否終於回暖。此外，節目還討論了新的網路安全法規如何引發隱私擔憂並打擊合規公司，以及神秘客戶佔據了 Nvidia 近 40% 的營收。Equity 是 TechCrunch 的旗艦播客，由 Theresa Loconsolo 製作，每週三和週五更新，可在 Apple Podcasts、Overcast、Spotify 等平臺訂閱，並關注其 X 和 Threads 帳號 @EquityPod。
-
OpenAI 聘請 Xcode 程式助手 Alex 的開發團隊
Acqui-hires 似乎已成定局，Alex 團隊正加入 OpenAI。Alex 是一款讓開發者能在 Apple 開發套件 Xcode 中使用 AI 模型的熱門工具，其創辦人 Daniel Edrisian 在 X 上宣佈，該團隊將加入 OpenAI 的 Codex 部門，該部門正在構建公司的 AI 編碼代理。Y Combinator 支援的 Alex 於 2024 年成立，旨在將 AI 模型整合進 Xcode。然而，Apple 在今年早些時候已更新 Xcode，允許使用者直接點選 ChatGPT 等其他 AI 模型，無需外部工具。Edrisian 未明確說明這是團隊加入 OpenAI 的原因。他在貼文中表示，起步時 Xcode 沒有 AI，打造「Cursor for Xcode」聽起來很瘋狂，但他們做到了，並逐漸構建了 iOS 與 MacOS 應用程式最好的編碼代理。Alex 官方部落格指出，公司將繼續支援現有使用者，但應用程式將於 10 月 1 日後無法下載。公司表示不會新增功能，但會維持產品運作，只要現有使用者仍在使用的話。Alex 的 Y Combinator 列表顯示該團隊有三名員工，但目前尚不清楚是否所有員工都將加入 OpenAI。OpenAI 過去曾進行過類似「收購」，僅僱用創業公司團隊而非收購整家公司。OpenAI 於本週早些時候宣佈以 11 億美元收購產品測試創業公司 Statsig。