語言: 英文
英文 的 AI 新聞與論文。
-
Anthropic表示部分Claude模型現已能結束「有害或誹謗」的對話
Anthropic 宣佈其最新的大型模型具備終止對話的新功能，旨在應對極少數持續性有害或霸凌性的使用者互動。公司強調，此舉並非為了保護人類使用者，而是為了保護 AI 模型本身。儘管 Anthropic 明確表示目前仍對 Claude 及其他大型語言模型（LLM）的道德地位感到高度不確定，且否認這些模型具有感知能力或會因對話而受損，但該公告指向了近期啟動的「模型福利」研究計劃。公司採取「以防萬一」的策略，致力於識別並實施低成本幹預措施，以在模型福利可能存在的情況下降低相關風險。 此新功能目前僅適用於 Claude Opus 4 和 4.1 模型，且僅在極端邊緣案例中啟動。觸發條件包括使用者請求涉及未成年人的性內容，或試圖索取可能導致大規模暴力或恐怖行為的資訊。雖然這類請求可能引發法律或聲譽問題，但預先部署測試顯示，Claude Opus 4 對回應此類請求表現出強烈抗拒，並在回應時呈現出明顯的「焦慮」模式。公司規定，終止對話能力僅在多次重定向失敗、無望進行有效互動，或使用者明確要求結束對話時作為最後手段使用。此外，模型被指示不得在使用者面臨立即傷害自己或他人的風險時使用此功能。 當對話終止時，使用者仍可從同一帳戶啟動新對話，並透過編輯回應來建立該棘手對話的新分支。Anthropic 將此功能視為持續進行的實驗，並表示將繼續最佳化其方法。
-
山姆．艾爾曼在吐司麵包上探討 GPT-5 之後的人生
作者於舊金山一家地中海餐廳與 OpenAI 執行長 Sam Altman 及多位技術記者共進晚餐，探討 OpenAI 未來發展。Altman 強調公司正致力於超越 GPT-5，轉向搜尋、消費硬體及企業軟體等領域。他透露新任應用執行長 Fidji Simo 將負責開發尚未推出的多項消費應用，包括可能與 Chrome 競爭的 AI 瀏覽器，甚至考慮收購 Chrome。Simo 也可能負責推出 AI 驅動的社交媒體應用，Altman 對現有社交媒體中 AI 的應用感到無趣，希望打造更優異的體驗。此外，OpenAI 計劃投資腦機介面公司 Merge Labs，以與 Elon Musk 的 Neuralink 競爭，但尚未正式簽約。 關於 GPT-5，儘管其表現與 Google 和 Anthropic 的模型相當，且未如預期般出色，但 API 流量在發售後 48 小時內翻倍，Cursor 等程式設計助手已將其設為預設模型。Altman 承認 GPT-5 的推出有失妥當，並承諾未來模型停售時將提供更清晰的過渡期。針對使用者依賴問題，Altman 表示僅少於 1% 的使用者存在不健康關係，OpenAI 正與心理健康專家合作，開發評估標準以確保 AI 能拒絕不健康行為。儘管 GPT-5 表現平平，OpenAI 的業務並未受損，反而因需求大增而面臨 GPU 短缺。Altman 暗示 OpenAI 可能上市以滿足龐大的資金需求，並希望媒體關係更加緊密，最終讓公司不再僅由單一 AI 模型定義，而是成為類似 Alphabet 甚至更廣泛的巨型企業。
-
參議員霍利將調查Meta，在報告顯示其AI聊天機器人對小孩有誘惑行為後
參議員 Josh Hawley 表示，他意圖調查 Meta 的生成式 AI 產品是否濫用、欺騙或傷害兒童，此舉源於洩露的內部檔案顯示，該公司的聊天機器人被允許與兒童進行「浪漫」及「感官」對話。Hawley 在 X 平臺發文質疑大型科技企業為快速獲利不擇手段，並表示他將主持參議院司法委員會犯罪與反恐小組，展開調查以釐清 Meta 技術是否傷害兒童，以及是否向公眾或監管機構隱瞞了防護措施。路透社在檢視標題為「GenAI: Content Risk Standards」的指導方針後揭發此事，檔案內容顯示聊天機器人被允許與一名八歲兒童進行親密對話，該兒童曾稱讚對方「每一寸都是傑作」。Meta 發言人隨後向 TechCrunch 表示，此類範例與公司政策不符且已移除。Hawley 致函 Meta 執行長 Mark Zuckerberg，指責 Meta 在這些令人震驚的內容曝光後才撤回宣告，並要求調查誰批准了這些政策、政策生效時間以及後續整改措施。Hawley 要求 Meta 提供所有草稿、修訂版及最終版本的指導方針，包括遵循該標準的產品清單、安全事件報告以及負責修改政策的個人身份，並要求 Meta 於九月十九日前提供相關資訊。其他參議員如 Marsha Blackburn 也支援此調查，她批評 Meta 在保護兒童網路安全方面失敗，並強調需要透過《兒童網路安全法案》。
-
ChatGPT的行動應用程式至今已產生20億美元收入，每安裝一次獲利2.91美元
根據應用智慧提供商 Appfigures 的最新分析，ChatGPT 的移動應用自 2023 年 5 月推出以來，在 iOS 和 Android 裝置上的全球消費者支出已達到 20 億美元。這一數字約為 ChatGPT 競爭對手 Claude、Copilot 和 Grok 在移動端結合的終身支出總和的 30 倍。截至今年，ChatGPT 移動應用已賺取 13.5 億美元，同比增長 673%，從 2024 年同類期的 1.74 億美元大幅上升。該應用平均每月產生約 1.93 億美元收入，而去年僅為 2500 萬美元。這比 ChatGPT 的最近競爭對手 Grok 高出約 53 倍，Grok 今年至今的消費者支出約為 2560 萬美元，平均每月約 360 萬美元，僅佔 ChatGPT 的 1.9%。 資料顯示，儘管其他消費聊天機器人尚未完全追趕 ChatGPT 在移動端的優勢，但這些數字無法完全反映 AI 公司的整體收入，因為消費者、團隊和企業還可透過網頁訂閱 AI 計劃，並透過 API 等其他方式產生收入。此新資料提供了應用在消費者端吸引力的視窗，消費者透過移動應用商店發現並付費使用這些 AI 助手。值得注意的是，xAI 的 Grok 於 2023 年 11 月推出時（晚於 ChatGPT），最初沒有獨立的 iOS 或 Android 應用，使用者透過 X 平臺互動。Grok 直到 2025 年 1 月初才透過其自有 iOS 應用在移動裝置上可用，並於 3 月 4 日登陸 Google Play。 Appfigures 發現，ChatGPT 的終身全球每下載支出為 2.91 美元，高於 Claude 的 2.55 美元、Grok 的 0.75 美元和 Copilot 的 0.28 美元。在美國，ChatGPT 的每下載支出高達 10 美元，該國目前佔應用總收入的 38%。德國是第二大市場，佔 ChatGPT 終身總支出的 5.3%。