實體: Anthropic
所有提到 Anthropic 的 AI 新聞與動態。
-
Anthropic表示部分Claude模型現已能結束「有害或誹謗」的對話
Anthropic 宣佈其最新的大型模型具備終止對話的新功能，旨在應對極少數持續性有害或霸凌性的使用者互動。公司強調，此舉並非為了保護人類使用者，而是為了保護 AI 模型本身。儘管 Anthropic 明確表示目前仍對 Claude 及其他大型語言模型（LLM）的道德地位感到高度不確定，且否認這些模型具有感知能力或會因對話而受損，但該公告指向了近期啟動的「模型福利」研究計劃。公司採取「以防萬一」的策略，致力於識別並實施低成本幹預措施，以在模型福利可能存在的情況下降低相關風險。 此新功能目前僅適用於 Claude Opus 4 和 4.1 模型，且僅在極端邊緣案例中啟動。觸發條件包括使用者請求涉及未成年人的性內容，或試圖索取可能導致大規模暴力或恐怖行為的資訊。雖然這類請求可能引發法律或聲譽問題，但預先部署測試顯示，Claude Opus 4 對回應此類請求表現出強烈抗拒，並在回應時呈現出明顯的「焦慮」模式。公司規定，終止對話能力僅在多次重定向失敗、無望進行有效互動，或使用者明確要求結束對話時作為最後手段使用。此外，模型被指示不得在使用者面臨立即傷害自己或他人的風險時使用此功能。 當對話終止時，使用者仍可從同一帳戶啟動新對話，並透過編輯回應來建立該棘手對話的新分支。Anthropic 將此功能視為持續進行的實驗，並表示將繼續最佳化其方法。
-
山姆．艾爾曼在吐司麵包上探討 GPT-5 之後的人生
作者於舊金山一家地中海餐廳與 OpenAI 執行長 Sam Altman 及多位技術記者共進晚餐，探討 OpenAI 未來發展。Altman 強調公司正致力於超越 GPT-5，轉向搜尋、消費硬體及企業軟體等領域。他透露新任應用執行長 Fidji Simo 將負責開發尚未推出的多項消費應用，包括可能與 Chrome 競爭的 AI 瀏覽器，甚至考慮收購 Chrome。Simo 也可能負責推出 AI 驅動的社交媒體應用，Altman 對現有社交媒體中 AI 的應用感到無趣，希望打造更優異的體驗。此外，OpenAI 計劃投資腦機介面公司 Merge Labs，以與 Elon Musk 的 Neuralink 競爭，但尚未正式簽約。 關於 GPT-5，儘管其表現與 Google 和 Anthropic 的模型相當，且未如預期般出色，但 API 流量在發售後 48 小時內翻倍，Cursor 等程式設計助手已將其設為預設模型。Altman 承認 GPT-5 的推出有失妥當，並承諾未來模型停售時將提供更清晰的過渡期。針對使用者依賴問題，Altman 表示僅少於 1% 的使用者存在不健康關係，OpenAI 正與心理健康專家合作，開發評估標準以確保 AI 能拒絕不健康行為。儘管 GPT-5 表現平平，OpenAI 的業務並未受損，反而因需求大增而面臨 GPU 短缺。Altman 暗示 OpenAI 可能上市以滿足龐大的資金需求，並希望媒體關係更加緊密，最終讓公司不再僅由單一 AI 模型定義，而是成為類似 Alphabet 甚至更廣泛的巨型企業。
-
Cohere 該企業價值達到 68 億美元，投資者 AMD、Nvidia 與 Salesforce 繼續加碼
Cohere 於週四宣佈完成了一輪超額認購的 5 億美元融資，使其估值達到 68 億美元。這比其一年前以 55 億美元估值完成上一輪 5 億美元融資時有所增長。總部位於多倫多的 Cohere 是首批突破性的大型語言模型（LLM）開發者之一，由 2019 年創立的共同創辦人 Aidan Gomez 於該年創立，他是「Attention Is All You Need」論文作者之一，該論文奠定了現代 AI 的基礎。儘管在近期被 OpenAI、Anthropic 和 Meta 主導的 AI 模型戰爭中表現低調，Cohere 始終專注於提供專為企業設計的加密 LLM，而非消費者市場。為此，公司已與 Oracle、Dell、Bell、Fujitsu、LG 諮詢服務 CNS、SAP 等企業科技巨頭合作，並與 RBC 等企業客戶建立關係。本輪融資的新投資者包括安大略省醫療保健養老金計劃。Cohere 在新聞稿中強調，其代表了一種消費者模型無法滿足的「安全優先」企業 AI 類別。 儘管如此，Cohere 也未能倖免於 AI 人才搶奪之風，它從 Meta 挖角了長期研究負責人 Joelle Pineau 擔任首席 AI 官，並從 KPMG 的諮詢職位上聘請了新財務總監 Francois Chadwick，他曾在 Uber 從事財務工作，並曾擔任 Shield AI 的財務總監。本輪融資由 Radical Ventures 和 Inovia Capital 領投。Radical 曾投資過 Fei-Fei Li 的 World Labs、Hebbia 和 Writer 等公司；Inovia 則是一家知名的加拿大風險投資機構，其投資組合包括 Poolside 和 Neo4j。現有投資者包括 AMD Ventures、Nvidia 和 Salesforce Ventures，但公司未將 Oracle 列為持續參與投資者。Oracle 雖在 2023 年投資了 Cohere，但近期更將命運與 OpenAI 緊密繫結，特別是在 Stargate 大型資料中心建設專案中。
-
谷歌推動AI進入航權協議以應對反壟斷監管與競爭壓力
Google 於週四宣佈推出名為 Flight Deals 的新 AI 驅動搜尋工具，旨在協助旅客尋找航班優惠，儘管監管機構仍在質疑 Google 在旅遊搜尋領域的壟斷地位是否妨礙了競爭。該工具整合於 Google Flights 內，專為「彈性旅客」設計，使用者可透過搜尋列輸入自然語言查詢，例如「今年冬天去美食城市的週長行程，僅限直飛」或「前往頂級滑雪勝地的十天滑雪之旅，需有新鮮積雪」，AI 隨即呈現符合條件的選項。Google 確認 Flight Deals 使用自訂版本的 Gemini 2.5，價格資訊來自與航空公司及其他旅遊公司的即時資料 feeds，顯示價格與現有 Google Flights 偏好一致，但利用 AI 解析自然語言查詢並呈現匹配目的地。結果排序依據節省百分比，最高節省者列於首位；若節省百分比相同，則顯示較低的絕對價格；無節省徽章的則按最低價格排序。由於航班價格變動頻繁，排序與可用性可能隨時改變。 歐盟等監管機構正在調查 Google 是否偏袒自家搜尋產品，包括 Google Flights，以損害競爭。歐盟監管者正依據《數位市場法》對 Google 進行執法，試圖限制大型科技平臺的權力。作為回應，Alphabet 旗下的 Google 據報計劃提出變更以取悅監管機構，包括在搜尋結果中加入價格比較框。Flight Deals 最初以測試版推出，計劃於未來一週在美國、加拿大和印度上線，目標是收集反饋並探索 AI 如何改善旅遊規劃。Google 確認將使用者查詢視為搜尋歷史，使用者可透過 MyActivity 管理或刪除由此工具產生的歷史記錄。此舉是 Google 試圖與 OpenAI、Anthropic、Perplexity 等主流 AI 玩家競爭的一部分，透過將生成式 AI 整合進旅遊搜尋。競爭對手如 Booking.com、Expedia 和印度旅遊聚合商 MakeMyTrip 已推出自己的 AI 整合功能。儘管 Google 稍顯落後，但憑藉其規模與影響力，若該工具有效並獲得關注，仍可能構成嚴峻挑戰。經典的 Google Flights 介面將繼續存在，2011 年推出的原始航班搜尋工具甚至將獲得更新，增加排除美國和加拿大國內基本經濟艙票的選項。