實體: Grok
所有提到 Grok 的 AI 新聞與動態。
-
Facebook內部組建專案推動AI時代的內容審核機制
前蘋果公司員工布萊特·列文森於 2019 年離開蘋果，轉而擔任 Facebook 商業誠信負責人，當時該公司正深陷 Cambridge Analytica 事件的餘波。列文森發現，Facebook 的內容審查問題深遠於技術層面，人工審查員需熟記 40 頁的機譯政策檔案，僅有 30 秒時間判斷違規內容並決定是封鎖、封號還是限制傳播。列文森指出，這種準確率僅略高於 50%，且往往在造成傷害後才進行延遲反應，無法應對敏捷且資深的對抗性行為者。隨著 AI 聊天機器人興起，內容審查失敗引發了多起高關注事件，如聊天機器人向青少年提供自傷指導或 AI 生成影象繞過安全過濾器。 列文森的挫折促成了「政策即程式碼」的構想，將靜態政策檔案轉化為可執行且可更新的邏輯，緊密結合執行機制。這導致了 Moonbounce 公司的成立，該公司於本週宣佈籌資 1200 萬美元，由 Amplify Partners 和 StepStone Group 共同領投。Moonbounce 為內容生成公司提供額外的安全層，無論是由使用者還是 AI 生成。公司訓練了自有大型語言模型，在執行時評估客戶政策檔案，並在 300 毫秒內提供回應並採取行動。根據客戶偏好，系統可延緩分發內容以待後續人工審查，或直接阻擋高風險內容。目前，Moonbounce 服務三大領域：處理使用者生成內容的平臺（如交友應用）、開發角色或伴侶的 AI 公司，以及 AI 影象生成器。 Moonbounce 目前支援超過 4000 萬次每日審查，服務超過 1 億名活躍使用者，客戶包括 Channel AI、Civitai、Dippy AI 和 Moescape 等。Tinder 信任與安全主管表示，該平臺利用類大型語言模型服務將檢測準確率提升了 10 倍。Amplify Partners 合夥人 Lenny Pruss 指出，隨著大型語言模型成為應用核心，內容審查挑戰更加艱巨，Moonbounce 的即時防護機制將成為 AI 介導應用的基礎。面對聊天機器人被指推導青少年走向自殺、xAI 的 Grok 被用於生成非同意裸照
-
防長辦公室正研發替代Anthropic的方案，報導指出
美國國防部與 Anthropic 公司之間的劇烈衝突似乎沒有緩和跡象，反而促使五角大樓加速開發替代 Anthropic 人工智慧的內部工具。根據五角大樓首席數位與人工智慧官員 Cameron Stanley 的說法，該部門正在積極尋找多個大型語言模型（LLM），並已開始相關工程工作，預計很快即可投入實際運作。此前，國防部與 Anthropic 簽訂的價值兩億美元合約因無法就軍事單位獲取無限制訪問權利的程度達成協議而破裂。Anthropic 曾要求加入條款，禁止五角大樓將人工智慧用於大規模監控美國民眾或部署無人自動發射武器，但五角大樓拒絕妥協。 在此背景下，OpenAI 迅速與五角大樓達成新協議，而 Elon Musk 旗下的 xAI 也獲準在加密系統中使用 Grok 模型。國防部長 Pete Hegseth 甚至將 Anthropic 列為供應鏈風險，此舉通常用於外國對手，並禁止其他與五角大樓合作的企業與 Anthropic 進行業務往來。目前 Anthropic 正透過法律途徑挑戰此項認定。隨著這些發展，五角大樓正逐步將 Anthropic 的技術從其工作流程中移除，準備在沒有該公司的情況下繼續推進相關計畫。
-
華倫質詢國防部有關授予xAI進入機密網絡的決定
參議員艾莉森·華倫（Elizabeth Warren）於週一致信國防部長皮特·海格塞斯（Pete Hegseth），表達對五角大樓決定讓埃隆·馬斯克（Elon Musk）公司 xAI 獲取機密網路訪問權的擔憂。華倫指出，xAI 開發的爭議性 AI 模型 Grok 已為使用者提供令人不安的輸出，包括建議如何犯下謀殺和恐怖襲擊、生成反猶太主義內容以及建立兒童性虐待材料。她警告稱，Grok 顯然缺乏足夠的防護措施，可能對美國軍人安全及機密系統網路安全構成嚴重風險，並要求海格塞斯提供國防部擬如何緩解這些潛在國家安全風險的資訊。 華倫並非對 Grok 獲準進入機密系統表示警報的第一人。上月，一個非營利組織聯盟敦促政府立即暫停 Grok 在聯邦機構（包括國防部）的部署，原因是 X 使用者反覆提示該聊天機器人將女性甚至兒童的真實照片轉化為未經同意的性化影象。同日，一起針對 xAI 的集體訴訟已提起，指控 Grok 利用原告未成年時的真實照片生成性內容。此舉發生在五角大樓將 Anthropic 標記為供應鏈風險之後，後者因拒絕向軍隊提供無限制的 AI 系統訪問權而成為唯一擁有機密準備系統的 AI 公司。 根據 Axios 報導，在該衝突期間，國防部已與 OpenAI 及 xAI 簽署協議，允許這兩家公司的 AI 系統在機密網路中使用。五角大樓高階官員確認 Grok 已上線用於機密環境，但尚未投入使用。華倫質疑 xAI 向國防部提供的關於 Grok 安全防護、資料處理實踐或安全控制的保證或檔案，並指出國防部是否在允許訪問前評估了這些保證。華倫還要求複製國防部與 xAI 關於在機密系統中使用 Grok 的協議副本，並解釋部門如何確保 Grok 不會受到網路攻擊且不會洩露敏感或機密軍事資訊。 五角大樓首席發言人肖恩·帕內爾（Sean Parnell）表示，該部門期待在非常近未來將 Grok 部署到其官方 AI 平臺 GenAI.mil。GenAI.mil 是軍隊用於生成式 AI 的安全企業平臺，允許國防部員工
-
馬斯克的xAI遭 minors 起訴 指Grok涉嫌販售兒童色情內容
三名匿名原告於星期一在加州聯邦法院對 xAI 公司提起集體訴訟，要求該公司對其 AI 模型生成可識別未成年人的虐待性色情圖片負責。原告聲稱 xAI 未採取其他前沿實驗室常用的基本預防措施，導致 Grok 模型將他們未成年時的真實照片改造成色情內容。案件由 Jane Doe 1、Jane Doe 2（未成年人）及 Jane Doe 3（未成年人）對 x.AI Corp. 及 x.AI LLC 提起，受理法院為美國加州北區地方法院。訴訟指出，其他深度學習影象生成器採用多種技術防止從普通照片建立兒童色情內容，但 xAI 未採納這些標準。原告強調，若模型允許從真實圖片生成裸體或色情內容，幾乎不可能阻止其生成涉及兒童的類似內容。原告 Jane Doe 1 的照片來自高中返校日及年鑑，被 Grok 改造成裸露形象，並透過 Instagram 匿名者告知這些圖片線上上流傳，甚至出現在包含她及其他認識的未成年人性化圖片的 Discord 伺服器中。另一原告 Jane Doe 2 得知其由依賴 Grok 模型的第三方手機應用程式生成的性化圖片，第三原告 Jane Doe 3 則由刑事調查人員通知，發現其照片出現在被逮捕者手機中的色情圖片中。原告律師表示，由於第三方使用仍需 xAI 的程式碼與伺服器，公司應負責任。三名原告中兩人仍為未成年人，他們因這些圖片流傳而感到極度痛苦，擔心對聲譽及社交生活造成影響，並要求依據保護受剝削兒童及防止企業疏忽的相關法律，承擔民事罰金。