美國加州州長於2024年9月17日簽署3項法案，內容包含打擊2024總統大選前使用人工智慧（Artificial Intelligence, AI）製作不實圖片及影像的行為，然而其中2項法案於同日遭到一名惡搞影像創作者向加州法院提出控告，認為法案將迫使社群媒體進行審查且騷擾民眾。
法案規定，投票前120日至投票後60日內，如製作、發布有關選舉之深度偽造（Deepfake）訊息屬於違法行為，法院有權停止訊息傳播並處以民事罰鍰（Civil Penalty）。加州州長Gavin Newsom稱，維護選舉公正性對民主制度至關重要，尤其現今政治氛圍充滿挑戰性，必須確保AI不會藉由不實訊息（Disinformation）破壞大眾的信任。
然而社群平臺X執行長Elon Musk認為該法案違反憲法第一修正案，並稱加州州長以違憲的方式將惡搞影片列為非法行為。
該訴訟乃美國首批針對此類型立法的法律挑戰，預計明尼蘇達州亦將有相關訴訟案提出。鑒於人工智慧出現，加劇全球不實訊息威脅，美國已有超過10州之州議會提出相關法案。非營利組織Public Citizen表示，目前尚不清楚此類型法案是否能有效阻擋選舉相關之深度偽造訊息，且所有法案訴訟皆尚未定讞，惟制定此類型法律應有助於威懾潛在違法行為。
