Undang-undang terbaru di California dapat menempatkan pengguna media sosial yang memposting, atau memposting ulang, deepfake AI yang menyesatkan pemilih mengenai pemilu mendatang dalam masalah hukum. Gubernur Gavin Newsom menyarankan agar AB 2839, yang mulai berlaku segera setelah ia menandatanganinya pada hari Selasa, dapat digunakan untuk me-retweet retweet Elon Musk, antara lain yang menyebarkan penipuan.
“Saya baru saja menandatangani larangan ini di California,” kata Newsom dalam sebuah tweet, mengacu pada deepfake AI yang diposting Musk awal tahun ini yang membuatnya tampak seperti karyawan yang memproklamirkan diri sebagai ketidakmampuan dan keberagaman Kamala Harris (katanya. tidak ).
“Anda tidak dapat lagi dengan sengaja mendistribusikan iklan atau komunikasi pemilu lainnya yang berisi konten penipuan – termasuk deepfake,” kata Newsom kemudian dalam sebuah tweet.
Undang-undang baru California menargetkan mereka yang mendistribusikan deepfake AI, terutama jika postingan tersebut menyerupai seseorang dalam surat suara California, dan gambar tersebut diketahui palsu sehingga dapat menimbulkan kebingungan. AB 2839 unik karena ia tidak mengincar pencipta deepfake AI, atau platform di mana deepfake tersebut muncul, melainkan mereka yang menyebarkannya secara jahat. Siapa pun yang melihat deep AI di media sosial dapat mengajukan ganti rugi, yang berarti hakim dapat memerintahkan penghapusan poster tersebut, atau membayar orang yang mempostingnya.
Ini adalah salah satu undang-undang Amerika yang paling tegas terhadap AI terkait pemilu menjelang pemilu presiden tahun 2024.
Sponsor yang membantu menulis AB 2839, Inisiatif California untuk Teknologi dan Demokrasi (CITED), mengatakan kepada TechCrunch bahwa undang-undang tersebut dapat memengaruhi pengguna media sosial mana pun – tidak hanya Musk – yang menulis atau memposting ulang artikel AI tentang pemilu dan kekerasan. “Kebencian” berarti bahwa pembuat poster mengetahui bahwa itu palsu dan akan menyesatkan pemilih.
“(AB 2839) menargetkan pembuat atau distributor konten, seperti konten yang termasuk dalam RUU tersebut,” kata direktur kebijakan CITED, Leora Gershenzon, dalam sebuah wawancara dengan TechCrunch. “Ini adalah berita-berita palsu yang diterbitkan dengan kesadaran bahwa berita tersebut palsu, dengan mengabaikan kebenaran secara sembrono, dan dapat mempengaruhi pemilu.”
Ketika ditanya apakah Musk dapat menghadapi tuntutan pidana karena memposting deepfake lagi, Newsom menolak berkomentar.
“Saya pikir Musk gagal melakukan pukulan tersebut,” kata Gubernur Newsom pada konferensi pers hari Kamis. “Parodi masih hidup dan berkembang di California, namun pemilu yang mendalam dan kotorlah yang merugikan demokrasi.”
Secara khusus, undang-undang baru ini melarang AI terkait pemilu dari televisi, radio, telepon, teks, atau komunikasi lainnya yang “ditransmisikan melalui Internet.” RUU ini tidak terbatas pada iklan politik, yang menjadi fokus undang-undang lain, namun juga artikel dari masyarakat biasa. AB 2839 menciptakan jendela – 120 hari sebelum pemilu California dan 60 hari setelahnya – yang berisi aturan ketat tentang apa yang boleh dan tidak boleh Anda posting tentang kandidat politik.
Gershenzon berkata: “Tujuan sebenarnya bukanlah untuk menghancurkan atau memberikan bantuan. “Hanya saja orang-orang tidak melakukan hal ini sejak awal.” Ini bisa menjadi hasil yang sangat baik… hanya memiliki kedalaman ini dan tidak mempengaruhi keputusan kita dengan penipuan.
Undang-undang ini berlaku bagi kandidat pemilu negara bagian dan lokal di California, serta orang-orang yang akan tampil dalam pemilu California, seperti Kamala Harris dan Donald Trump. Jika ada penafian yang jelas untuk deepfake AI, yang menyatakan bahwa itu dimanipulasi secara digital, maka AB 2839 tidak berlaku.
Musk sudah berusaha untuk meloloskan undang-undang baru California. Musk me-retweet deepfake mirip Kamala Harris yang dijelaskan Newsom dalam tweetnya pada hari Selasa, mengumpulkan lebih dari 31 juta penayangan di X. Musk juga men-tweet deepfake AI yang mirip dengan Gubernur Newsom pada hari Rabu, yang menerima lebih dari 7 juta penayangan.
Musk dan X menghadapi tantangan hukum lain terkait kontrol. Misalnya, hakim Mahkamah Agung Brasil mendenda X Corporation pada hari Kamis karena melanggar larangan negara terhadap platform tersebut. Hakim sebelumnya mengatakan kegagalan X dalam memerangi berita palsu dan ujaran kebencian merusak demokrasi Brasil.