英國通訊管理局（Office of Communications, Ofcom）於2024年7月23日發布一項研究，旨在探討網路深度偽造（deepfake）所造成之問題，並提出科技公司可採取的應對措施。研究指出，英國16歲以上民眾有43%的人，在過去六個月內至少於網路上看過一次深度偽造，而8至15歲兒童比例上升至50%。此類內容多為女性受害者，許多人因其經歷而患有焦慮、創傷後壓力症候群和自殺念頭。
深度偽造的辨識度因生成式人工智慧（Generative AI, GenAI）的進步變得更加困難，其可能造成之傷害包括：偽造他人形象，如散播色情內容、偽造他人身分進行詐騙及透過網路散播假訊息等。然解決深度偽造問題需技術服務相關業者採取措施。Ofcom指出，科技公司可透過以下方式降低深度偽造之風險：
- 預防（Prevention）：透過AI模型資料庫篩選，刪除有害內容；
- 嵌入（Embedding）：AI模型開發人員和線上平臺可於內容嵌入難以察覺之浮水印，使其可使用深度學習演算法進行檢測；
- 檢測（Detection）：線上平臺可使用自動化審查以幫助區分真實內容；
- 執行（Enforcement）：線上平臺可在其服務條款中明確訂定在平臺創建和共享之合成內容類型之規範，並對違反規則的用戶採取應對措施。
Ofcom努力協商線上平臺應如何遵守《線上安全法（Online Safety Act）》規定的職責，防止非法深度偽造所造成之傷害。社群媒體和搜尋引擎等受監管服務業者須評估平臺上非法內容或活動之風險，包括多種類型之深度偽造內容，並在發現後迅速採取措施將其刪除。另外，於「兒童安全實踐準則（Children’s Safety Codes of Practice）」草案中，Ofcom建議採取措施以解決非法有害之深度偽造問題，包括與用戶驗證、推薦演算法設計、內容審核及用戶檢舉和投訴等相關措施。
