Gubernur California Gavin Newsom mengatakan ada 38 rancangan undang-undang di mejanya yang akan membuat undang-undang seputar kecerdasan buatan pada hari Selasa, tapi satu yang paling menonjol: SB 1047, undang-undang California yang mencoba mencegah sistem AI menyebabkan bencana. Untuk pertama kalinya, Gubernur California menyampaikan pemikirannya mengenai RUU kontroversial tersebut.
Singkatnya, menurutnya SB 1047 bermasalah. Newsom mengatakan dia tertarik dengan rancangan undang-undang AI yang dapat mengatasi tantangan saat ini tanpa mengganggu industri AI California. Hal ini bukan pertanda baik bagi masa depan SB 1047, yang bertujuan untuk melindungi terhadap bencana dengan mengawasi vendor AI besar jika produk mereka digunakan untuk menyebabkan kerusakan serius, seperti melumpuhkan peralatan penting. Pada saat yang sama, penandatanganan RUU tersebut akan melemahkan kelompok industri AI besar yang ingin Newsom memveto RUU tersebut.
“Kami telah berupaya selama beberapa tahun terakhir untuk mendapatkan aturan yang tepat yang mendukung pengambilan risiko, namun tidak sembrono,” kata Newsom dalam percakapan dengan CEO Salesforce Marc Benioff pada hari Selasa di konferensi Dreamforce 2024. “Ini menjadi tantangan saat ini, terutama dengan SB 1047, karena potensi dampak peraturan perundang-undangan, dan potensi dampaknya, terutama di ruang publik.”
Newsom melanjutkan dengan mengatakan bahwa dia perlu mempertimbangkan risiko yang dirasakan versus risiko hipotetis. Lalu dia berkata: “Saya tidak bisa berbuat apa-apa.” Apa yang bisa kita selesaikan?”
Gubernur mengkritik keras SB 1047: RUU tersebut mencoba mencegah peran AI dalam kasus cedera serius dan insiden keamanan siber yang menelan biaya lebih dari $500 juta, namun tidak membuat perusahaan teknologi bertanggung jawab atas apa pun yang tidak terjadi. Penentang SB 1047 berpendapat bahwa RUU tersebut dapat menghambat inovasi, sekaligus gagal mengatasi tantangan yang diciptakan sistem AI dalam lingkungan jangka pendek saat ini.
Newsom menyampaikan pernyataan ini di hadapan peserta konferensi teknologi bisnis di San Francisco. Di banyak konferensi teknologi yang saya hadiri akhir-akhir ini, Anda mendengar keributan di antrean kamar mandi tentang banyaknya masalah dengan SB 1047. Newsom mungkin tahu pemilih mana yang ada di antara penonton, dan mungkin dia bermain-main dengan penonton.
Meski begitu, sang duta besar menerapkan aturan AI-nya sesuai dengan apa yang dia katakan. Sebelumnya pada hari Selasa, Gubernur California menandatangani lima undang-undang yang menyelesaikan masalah AI yang telah kita lihat pada tahun 2024, seperti kebohongan yang dibuat oleh AI dan studio Hollywood yang menciptakan aktor AI. Ini bisa menjadi “presentasi yang berbahaya”, kata Newsom.
Pada saat yang sama, Newsom menyesali pada hari Selasa bagaimana pemerintah federal “gagal mengatur” di bidang AI. Gubernur telah melihat bagaimana California di masa lalu telah memimpin dalam bidang teknologi — misalnya, media sosial dan privasi — dan tidak terkejut bahwa masyarakat kembali mengharapkan negara bagian tersebut untuk mendapatkan kepemimpinan.
Juru bicara penulis SB 1047, Senator California Scott Wiener, tidak menanggapi permintaan komentar dari TechCrunch.
“(AI) adalah wilayah yang kami kendalikan, dan saya ingin mempertahankan kendali kami,” kata Newsom. “Pada saat yang sama, Anda merasa memiliki tanggung jawab untuk menghadapi beberapa tantangan yang banyak dari kita hadapi – bahkan yang paling termotivasi dan kuat dalam teknologi ini – dan ini adalah tempat yang sulit untuk dicapai.”
Newsom mengatakan mungkin berlebihan bahwa penandatanganan SB 1047 akan mengganggu industri AI dalam semalam. Namun, dia mencatat bagaimana penandatanganan undang-undang yang salah selama beberapa tahun dapat berdampak signifikan pada kepemimpinan California.
Gubernur California tidak mengatakan secara rinci pada hari Selasa apakah dia akan menandatangani atau menentang RUU tersebut. OpenAI, Nancy Pelosi, Kamar Dagang Amerika Serikat, dan kelompok bisnis Big Tech mendorong Newsom untuk memveto SB 1047. Di sisi lain, Elon Musk, Anthropic, dan peneliti AI terkemuka lainnya tidak menunjukkan minat yang besar.
Gubernur Newsom memiliki waktu dua minggu untuk memutuskan. Sampai saat itu tiba, kita masih mempunyai setumpuk komentar yang tampaknya tidak mendukung masa depan RUU tersebut.
