印度政府已命令埃隆·馬斯克旗下的 X 平臺立即對其 AI 聊天機器人 Grok 進行技術和程式上的變更，以應對使用者和立法者指出的生成「不雅」內容的問題，其中包括使用該工具創作的 AI 修圖女性形象。印度資訊技術部於週五發出命令，要求 X 採取糾正行動，限制生成涉及「裸露、性化、色情或違法」材料的內容。該部門還給予平臺 72 小時時間，提交一份行動報告，詳細說明已採取的步驟，以防止發布或傳播被視為「不雅、色情、粗俗、不端、色情、涉及兒童性虐待或法律禁止」的內容。
此命令警告稱，若無法遵守規定，可能會危及 X 在印度法律下的「安全港」保護，即對使用者生成內容免於承擔責任的豁免權。印度的這一舉措是針對使用者分享的 Grok 被提示將個人（主要是女性）圖片改為穿著比基尼的案例，並引發了印度議員普里揚卡·查圖爾維迪的正式投訴。此外，近期報告指出該聊天機器人曾生成涉及未成年人的性化圖片，X 承認這是防護措施疏漏所致，相關圖片已被下架，但當時仍有穿著比基尼的 AI 修圖女性圖片可訪問。
此命令是在印度資訊技術部於週一發布更廣泛的諮詢後不久出臺的，該諮詢提醒社交媒體平臺，遵守當地關於不雅和色情內容的法律是保留法律豁免權的先決條件，並敦促公司加強內部防護措施，否則可能面臨印度資訊技術法和刑事法律的行動。印度政府表示，不遵守規定可能導致對 X 採取行動。作為全球最大的數字市場之一，印度已成為政府願意對 AI 生成內容承擔平臺責任程度的關鍵測試案例。任何執法緊縮都可能對在全球多個管轄區運營的技術公司產生連鎖反應。此命令正值馬斯克的 X 在法院挑戰印度內容監管規則之際，同時 Grok 正被 X 使用者用於即時事實查核和新聞評論，使其輸出更具可見性和政治敏感性。X 和 xAI 未立即回應印度政府命令的求證。