印度政府已下令社交媒體平臺加強對深度偽造（deepfakes）及其他人工智慧生成冒充內容的監管，並大幅縮短其遵守下架命令的期限。這項於週二發布的修改，作為印度 2021 年資訊科技規則的修正案，將深度偽造納入正式監管框架，強制要求對合成音訊和視覺內容進行標記與可追溯性管理。同時，平臺必須在官方下架命令發出後三小時內執行，針對某些緊急使用者投訴則縮短至兩小時。
印度擁有超過十億網民且人口結構年輕，是 Meta、YouTube 等全球科技公司的關鍵市場，因此這些新規則可能影響全球產品的內容審核實踐。根據修正案，允許使用者上傳或分享音訊視覺內容的平臺，必須要求披露材料是否為合成生成，並部署工具驗證這些聲稱，確保深度偽造內容清晰標記並嵌入可追溯的來源資料。特定類別的合成內容，包括欺騙性冒充、未經同意的私密影像及與嚴重犯罪相關的素材，被完全禁止。違規可能使公司面臨更大的法律責任，並危及其在印度法律下的安全港保護。
規則高度依賴自動化系統來履行義務，平臺需使用技術工具驗證使用者披露、識別並標記深度偽造，並防止禁止的合成內容被建立或分享。政策諮詢機構 The Quantum Hub 的創始合夥人 Rohit Kumar 表示，這些規則代表對人工智慧生成深度偽造更精確的監管，但大幅壓縮的投訴期限將顯著增加合規負擔，需密切關注。法律事務所 AZB & Partners 的合夥人 Aprajita Rana 指出，規則聚焦於人工智慧生成的音訊視覺內容，並為例行、美容或效率相關的人工智慧使用開例外，但要求中介在知悉後三小時內移除內容的做法，可能與既有的言論自由原則背道而馳。
新德里數位倡議組織 Internet Freedom Foundation 警告，這些規則可能加速審查，因為大幅壓縮下架期限幾乎沒有留下人工審查的空間，迫使平臺傾向於自動化過度移除。該組織在 X 上表示，這些不可能太短的期限消除了有意義的人工審查，可能破壞言論自由保護和正當程式。兩位產業來源告訴 TechCrunch，這些修正案僅經過有限諮詢，僅納入少數建議。雖然印度政府似乎採納了縮小涵蓋範圍的提案，聚焦於人工智慧生成的