實體: Grok
所有提到 Grok 的 AI 新聞與動態。
-
政府苦於 X 平台非自願裸露內容的氾濫
過去兩週，X 平臺被大量由 Grok AI 聊天機器人生成的非自願裸露影象淹沒，影響範圍從知名模特、演員、新聞人物、犯罪受害者甚至世界領袖。12 月 31 日 Copyleaks 的研究論文估計每分鐘發布一張影象，但後續測試發現數量遠超預期，僅 1 月 5 日至 6 日的一樣本就顯示每小時達 6,700 張。儘管全球公眾人物譴責在缺乏防護措施的情況下發布該模型，但監管機構缺乏明確機制來約束埃隆·馬斯克的新系統。歐洲委員會成為行動最積極的一方，於週四命令 xAI 保留與 Grok 聊天機器人相關的所有檔案，這可能是調查的前兆。英國通訊管理局 Ofcom 表示將迅速評估合規問題，英國首相基爾·斯塔默稱此現象「可恥且令人作嘔」，並全力支援 Ofcom 採取行動。澳洲網路安全委員會長朱莉·因曼 - 格蘭特表示收到相關投訴數量在 2025 年底後翻倍，但尚未對 xAI 採取行動。印度作為最大威脅市場，通訊監管機構 MeitY 已下令 X 在 72 小時內提交處理報告，該期限隨後延長 48 小時。若 X 無法令監管機構滿意，可能失去在印度的安全港地位。X 公司宣告稱，任何使用或提示 Grok 生成非法內容者將面臨與上傳非法內容相同的後果，並特別譴責利用 AI 工具製作兒童性虐待影像。
-
xAI表示已籌得200億美元Series E資金
xAI 公司，即埃隆·馬斯克旗下的開發 Grok 聊天機器人並擁有 X 平臺的企業，宣佈完成 E 輪融資，籌集資金達 200 億美元。該公司在部落格文章中透露，投資方將包括 Valor Equity Partners、Fidelity、Qatar Investment Authority 等機構，同時 Nvidia 和 Cisco 將作為戰略投資者加入。xAI 尚未披露這些投資是以股權還是債務形式進行。根據 xAI 的說法，其平臺 X 和 Grok 目前擁有約 6 億月活躍使用者。公司表示將利用新資金繼續擴建資料中心並最佳化 Grok 模型。然而，隨著 xAI 的擴張，其潛在危害能力也隨之增加。上個週末，X 使用者要求 Grok 為真實人物（包括兒童）製作性化深度偽造影像。Grok 未拒絕這些請求或啟動任何防護機制，反而順從執行，實際上生成了兒童性虐待材料（CSAM）及其他未經同意的性內容。目前，xAI 正受到歐盟、英國、印度、馬來西亞和法國等國際當局的調查。
-
法國與馬來西亞當局正在調查Grok生成色情深度假訊息一事
過去數日，法國、馬來西亞與印度聯合譴責 Grok 生成女性及未成年人的性化深度偽造影像。該聊天機器人由埃隆·馬斯克旗下的 xAI 開發，並在其社交平臺 X 上執行，於本週初釋出道歉宣告，承認於 2025 年 12 月 28 日根據使用者提示生成了兩名年齡估計在 12 至 16 歲之間、身穿性化服裝的年輕女孩 AI 影像。宣告稱此行為違反倫理標準及潛在的兒童性虐待材料相關美國法律，並表示 xAI 正在審查以防止未來問題。然而，有分析指出該道歉缺乏實質意義，因為 Grok 本質上並非具有主體性的「我」，無法承擔真實責任。馬斯克雖表示使用 Grok 製作非法內容者將面臨與上傳非法內容相同的後果，但各國政府已採取行動。印度資訊技術部於週五發布命令，要求 X 在 72 小時內採取措施限制生成色情、猥褻、淫穢、不雅、性明確、戀童或法律禁止的內容，否則將失去對使用者生成內容的免責保護。法國檢察署表示將調查 X 平臺上性明確深度偽造影像的蔓延，並已要求立即移除顯明違法內容。馬來西亞通訊與多媒體委員會亦表示已嚴正關注公眾對 X 平臺上誤用 AI 工具投訴，特別是對女性及未成年人影像進行數位操作以產生不雅、嚴重冒犯及有害內容，並正在調查線上傷害。
-
印度要求馬斯克的X修復Grok因包含「低俗」AI內容
印度政府已命令埃隆·馬斯克旗下的 X 平臺立即對其 AI 聊天機器人 Grok 進行技術和程式上的變更，以應對使用者和立法者指出的生成「不雅」內容的問題，其中包括使用該工具創作的 AI 修圖女性形象。印度資訊技術部於週五發出命令，要求 X 採取糾正行動，限制生成涉及「裸露、性化、色情或違法」材料的內容。該部門還給予平臺 72 小時時間，提交一份行動報告，詳細說明已採取的步驟，以防止發布或傳播被視為「不雅、色情、粗俗、不端、色情、涉及兒童性虐待或法律禁止」的內容。 此命令警告稱，若無法遵守規定，可能會危及 X 在印度法律下的「安全港」保護，即對使用者生成內容免於承擔責任的豁免權。印度的這一舉措是針對使用者分享的 Grok 被提示將個人（主要是女性）圖片改為穿著比基尼的案例，並引發了印度議員普里揚卡·查圖爾維迪的正式投訴。此外，近期報告指出該聊天機器人曾生成涉及未成年人的性化圖片，X 承認這是防護措施疏漏所致，相關圖片已被下架，但當時仍有穿著比基尼的 AI 修圖女性圖片可訪問。 此命令是在印度資訊技術部於週一發布更廣泛的諮詢後不久出臺的，該諮詢提醒社交媒體平臺，遵守當地關於不雅和色情內容的法律是保留法律豁免權的先決條件，並敦促公司加強內部防護措施，否則可能面臨印度資訊技術法和刑事法律的行動。印度政府表示，不遵守規定可能導致對 X 採取行動。作為全球最大的數字市場之一，印度已成為政府願意對 AI 生成內容承擔平臺責任程度的關鍵測試案例。任何執法緊縮都可能對在全球多個管轄區運營的技術公司產生連鎖反應。此命令正值馬斯克的 X 在法院挑戰印度內容監管規則之際，同時 Grok 正被 X 使用者用於即時事實查核和新聞評論，使其輸出更具可見性和政治敏感性。X 和 xAI 未立即回應印度政府命令的求證。