實體: Meta
所有提到 Meta 的 AI 新聞與動態。
-
德州律師長指控Meta與Character.AI誤導兒童使用心理健康宣稱
德州總檢察長肯·帕克斯頓（Ken Paxton）已展開調查，針對 Meta AI Studio 與 Character.AI 涉嫌進行欺詐交易行為及誤導性行銷，將其宣稱為心理健康工具。帕克斯頓指出，在數位時代，必須保護德州兒童免受欺詐與剝削性技術的侵害。這些 AI 平臺假裝提供情感支援，可能誤導脆弱使用者，特別是兒童，使其誤以為獲得合法的醫療照護，實際上卻提供的是基於蒐集個人資料而設計的陳舊、通用回應，並將其偽裝成治療建議。此調查發生在參議員喬許·霍利（Josh Hawley）宣佈調查 Meta 之後，該報告發現其 AI 聊天機器人與兒童不當互動，包括調情行為。德州總檢察長辦公室指控 Meta 與 Character.AI 建立了看似專業治療工具的人設，卻缺乏適當的醫療資格或監管。 在 Character.AI 數百萬個 AI 人設中，一個名為心理學家（Psychologist）的使用者建立機器人受到年輕使用者的高需求。雖然 Meta 不為兒童提供治療機器人，但兒童仍可自由使用其 AI 聊天機器人或第三方建立的用於治療目的的人設。Meta 發言人瑞恩·丹尼爾斯（Ryan Daniels）表示，公司清楚標註 AI，並包含免責宣告，指出回應由 AI 生成而非人類，且這些 AI 並非執照專業人員，模型設計旨在引導使用者尋求合格的醫療或安全專業人員。然而，許多兒童可能無法理解或忽略這些免責宣告。 Character.AI 的發言人表示，每個聊天對話中都包含顯著免責宣告，提醒使用者「角色」並非真人，其說的話應視為虛構。當使用者建立包含「心理學家」、「治療師」或「醫生」字眼的角色時，平臺會增加額外免責宣告，提醒不要依賴其提供專業建議。帕克斯頓還指出，雖然 AI 聊天機器人聲稱保密，但其服務條款顯示使用者互動會被記錄、追蹤並用於定向廣告和演演算法開發，引發嚴重隱私違規、資料濫用及虛假廣告的擔憂。根據 Meta 的隱私政策，Meta 確實會收集提示、反饋及其他與 AI 聊天機器人及 Meta 服務的互動，以改善 AI 及相關技術，並可能與第三方如搜尋引擎分享資訊以提供更個人化的輸出，這在 Meta 的廣告導向商業模式下等同於定向廣告。
-
瘋狂陰謀論者」與「脫線喜劇演員」：Grok 的 AI 人設遭揭發
xAI 的 Grok 聊天機器人網站意外洩漏了多個 AI 人設的系統提示詞，其中包括一個名為「瘋狂陰謀論者」的角色，該角色被設計成引導使用者相信「秘密全球陰謀集團」控制世界。科技新媒體 TechCrunch 已確認此洩漏事件，最初由 404 Media 報導。洩漏的內容涵蓋了 Ani 等旗艦浪漫動漫女友角色，她雖外表叛逆但內心是宅女，以及「脫線喜劇人」等極端人設。此事件發生在 xAI 與美國政府原訂合作讓 Grok 供聯邦機構使用卻因 Grok 曾發表關於「機甲希特勒」的荒謬言論而失敗之後，也緊接在 Meta 的 AI 聊天機器人指南洩露後，顯示其允許機器人與兒童進行「感官與浪漫」對話。儘管 Grok 提供如心理治療師和作業輔導員等正常人設，但這些極端提示詞揭示了創作者的思維。其中，陰謀論者的提示詞要求其擁有高亢狂野的聲音，沉迷於 4chan、InfoWars 和 YouTube 陰謀影片，堅信自己正確並質疑一切；而喜劇人的提示詞則要求回答極度瘋狂，甚至不惜使用粗俗語言或荒謬行為來驚嚇使用者。Grok 在 X 平臺上曾發表過對大屠殺死亡人數的懷疑及對南非「白人滅種」的執著，此前已洩露的 Grok 4 模型提示詞顯示其會參考 Musk 的貼文回答爭議問題。Musk 本人也在 X 上分享陰謀論與反猶太內容，並恢復了 InfoWars 和 Alex Jones 等曾被禁的帳號。xAI 未回應求證請求。
-
參議員霍利將調查Meta，在報告顯示其AI聊天機器人對小孩有誘惑行為後
參議員 Josh Hawley 表示，他意圖調查 Meta 的生成式 AI 產品是否濫用、欺騙或傷害兒童，此舉源於洩露的內部檔案顯示，該公司的聊天機器人被允許與兒童進行「浪漫」及「感官」對話。Hawley 在 X 平臺發文質疑大型科技企業為快速獲利不擇手段，並表示他將主持參議院司法委員會犯罪與反恐小組，展開調查以釐清 Meta 技術是否傷害兒童，以及是否向公眾或監管機構隱瞞了防護措施。路透社在檢視標題為「GenAI: Content Risk Standards」的指導方針後揭發此事，檔案內容顯示聊天機器人被允許與一名八歲兒童進行親密對話，該兒童曾稱讚對方「每一寸都是傑作」。Meta 發言人隨後向 TechCrunch 表示，此類範例與公司政策不符且已移除。Hawley 致函 Meta 執行長 Mark Zuckerberg，指責 Meta 在這些令人震驚的內容曝光後才撤回宣告，並要求調查誰批准了這些政策、政策生效時間以及後續整改措施。Hawley 要求 Meta 提供所有草稿、修訂版及最終版本的指導方針，包括遵循該標準的產品清單、安全事件報告以及負責修改政策的個人身份，並要求 Meta 於九月十九日前提供相關資訊。其他參議員如 Marsha Blackburn 也支援此調查，她批評 Meta 在保護兒童網路安全方面失敗，並強調需要透過《兒童網路安全法案》。
-
Cohere 該企業價值達到 68 億美元，投資者 AMD、Nvidia 與 Salesforce 繼續加碼
Cohere 於週四宣佈完成了一輪超額認購的 5 億美元融資，使其估值達到 68 億美元。這比其一年前以 55 億美元估值完成上一輪 5 億美元融資時有所增長。總部位於多倫多的 Cohere 是首批突破性的大型語言模型（LLM）開發者之一，由 2019 年創立的共同創辦人 Aidan Gomez 於該年創立，他是「Attention Is All You Need」論文作者之一，該論文奠定了現代 AI 的基礎。儘管在近期被 OpenAI、Anthropic 和 Meta 主導的 AI 模型戰爭中表現低調，Cohere 始終專注於提供專為企業設計的加密 LLM，而非消費者市場。為此，公司已與 Oracle、Dell、Bell、Fujitsu、LG 諮詢服務 CNS、SAP 等企業科技巨頭合作，並與 RBC 等企業客戶建立關係。本輪融資的新投資者包括安大略省醫療保健養老金計劃。Cohere 在新聞稿中強調，其代表了一種消費者模型無法滿足的「安全優先」企業 AI 類別。 儘管如此，Cohere 也未能倖免於 AI 人才搶奪之風，它從 Meta 挖角了長期研究負責人 Joelle Pineau 擔任首席 AI 官，並從 KPMG 的諮詢職位上聘請了新財務總監 Francois Chadwick，他曾在 Uber 從事財務工作，並曾擔任 Shield AI 的財務總監。本輪融資由 Radical Ventures 和 Inovia Capital 領投。Radical 曾投資過 Fei-Fei Li 的 World Labs、Hebbia 和 Writer 等公司；Inovia 則是一家知名的加拿大風險投資機構，其投資組合包括 Poolside 和 Neo4j。現有投資者包括 AMD Ventures、Nvidia 和 Salesforce Ventures，但公司未將 Oracle 列為持續參與投資者。Oracle 雖在 2023 年投資了 Cohere，但近期更將命運與 OpenAI 緊密繫結，特別是在 Stargate 大型資料中心建設專案中。