RUU kontroversial California untuk mencegah kecelakaan AI, SB 1047, telah melewati pemungutan suara akhir di Senat negara bagian dan sekarang sedang diproses di meja Gubernur Gavin Newsom. Mereka harus mempertimbangkan potensi risiko AI buatan – termasuk potensi kematian manusia – dibandingkan dengan potensi pencegahan penyebaran AI di California. Mereka memiliki waktu hingga 30 September untuk menandatangani SB 1047 menjadi undang-undang, atau menghadapi pemungutan suara.
Diperkenalkan oleh senator negara bagian Scott Wiener, SB 1047 berupaya membatasi kemampuan jenis AI terbesar untuk menciptakan peristiwa bencana, seperti hilangnya nyawa atau serangan dunia maya yang menelan biaya lebih dari $500 juta.
Jelasnya, saat ini hanya ada sedikit model AI yang mampu memenuhi kebutuhan tersebut, dan AI belum pernah digunakan dalam serangan siber sebesar ini. Namun RUU ini membahas masa depan spesies AI, bukan permasalahan yang ada saat ini.
SB 1047 akan membuat pengembang AI bertanggung jawab atas kerugian mereka sendiri – seperti membuat produsen senjata bertanggung jawab atas penembakan massal – dan akan memberikan kewenangan kepada jaksa agung California untuk menuntut perusahaan AI atas hukuman berat jika teknologi mereka digunakan dalam situasi berbahaya. Jika perusahaan lalai, pengadilan dapat memerintahkan perusahaan tersebut berhenti bekerja; Pakaian yang tertutup juga harus memiliki “tombol mematikan” yang memungkinkannya dimatikan jika dianggap berbahaya.
RUU ini dapat membentuk kembali industri AI Amerika, dan merupakan langkah penting untuk menjadi undang-undang. Beginilah masa depan SB 1047 dapat terjadi.
Mengapa Newsom mungkin menandatangani
Wiener berpendapat bahwa Silicon Valley memerlukan lebih banyak tanggung jawab, dan mengatakan kepada TechCrunch bahwa Amerika perlu belajar dari kegagalan masa lalu dalam mengelola teknologi. Newsom dapat didorong untuk bertindak cepat terhadap undang-undang AI dan meminta pertanggungjawaban Big Tech.
Beberapa eksekutif AI tampak optimis dengan kearifan SB 1047, termasuk Elon Musk.
Konservatif lain di SB 1047 adalah mantan kepala Microsoft AI Sophia Velastegui. Dia mengatakan kepada TechCrunch bahwa “SB 1047 adalah sebuah parodi,” sambil mengakui bahwa RUU tersebut bagus. “Saya pikir kita memerlukan kantor AI Amerika yang kredibel, atau negara mana pun yang bisa bekerja. Seharusnya tidak hanya Microsoft saja,” kata Velastegui.
Anthropic adalah pendukung setia SB 1047 lainnya, meskipun perusahaan belum menetapkan posisi dalam RUU tersebut. Beberapa perubahan yang dia perkenalkan telah ditambahkan ke SB 1047, dan CEO Dario Amodei sekarang mengatakan “manfaat dari RUU tersebut mungkin lebih besar daripada biayanya” dalam sebuah surat kepada Gubernur California. Berkat amandemen Anthropic, perusahaan AI dapat dimintai pertanggungjawaban setelah model AI mereka menimbulkan risiko tertentu, bukan sebelumnya, seperti yang diusulkan versi SB 1047 sebelumnya.
Mengapa Newsom bisa menghentikannya
Mengingat banyaknya penentangan terhadap RUU tersebut, tidak mengherankan jika Newsom memvetonya. Dia akan menggantungkan reputasinya pada SB 1047 jika dia menandatanganinya, tapi jika dia menyetujuinya, dia bisa membuang toilet itu untuk satu tahun lagi atau membiarkan Kongres melakukannya.
“Ini (SB 1047) mengubah apa yang telah kami lakukan dengan pengembangan perangkat lunak selama 30 tahun,” kata Managing Partner Andreessen Horowitz, Martin Casado, dalam sebuah wawancara dengan TechCrunch. “Hal ini menghilangkan tanggung jawab dalam proses pengajuan, dan menerapkannya pada infrastruktur, sesuatu yang belum pernah kami lakukan sebelumnya.”
Industri teknologi menanggapinya dengan protes keras terhadap SB 1047. Selain a16z, Ketua Nancy Pelosi, OpenAI, kelompok perdagangan Big Tech, dan peneliti AI terkemuka juga mendesak Newsom untuk menandatangani RUU tersebut. Mereka khawatir perubahan paradigma ini akan berdampak negatif pada inovasi AI di California.
Serangan panik dalam perekonomian startup adalah hal terakhir yang diinginkan siapa pun. Perkembangan AI telah memberikan dorongan besar bagi perekonomian Amerika, dan Newsom berada di bawah tekanan untuk tidak menghancurkannya. Bahkan Kamar Dagang AS telah meminta Newsom untuk memveto RUU tersebut, dengan mengatakan “AI adalah fondasi pertumbuhan ekonomi Amerika,” dalam sebuah surat kepadanya.
Jika SB 1047 menjadi undang-undang
Jika Newsom menandatangani RUU tersebut, tidak ada yang terjadi pada hari pertama, kata sumber yang terlibat dalam penyusunan SB 1047 kepada TechCrunch.
Pada tanggal 1 Januari 2025, perusahaan teknologi akan diwajibkan untuk mengajukan laporan keselamatan untuk model AI mereka. Sementara itu, Jaksa Agung California dapat meminta perintah pengadilan yang mewajibkan perusahaan AI untuk menghentikan pelatihan atau penggunaan model AI mereka jika pengadilan menganggapnya berbahaya.
Pada tahun 2026, lebih banyak uang akan dimulai. Pada saat itu, Board of Frontier Models akan dibentuk dan mulai mengumpulkan laporan keselamatan dari perusahaan teknologi. Dewan beranggotakan sembilan orang, yang ditunjuk oleh gubernur dan badan legislatif California, akan memberikan rekomendasi kepada jaksa agung California tentang apa yang bisa dan tidak bisa dilakukan oleh perusahaan.
Pada tahun yang sama, SB 1047 juga akan mewajibkan pengembang AI untuk mempekerjakan auditor untuk menilai praktik keamanan mereka, sehingga memudahkan perusahaan baru untuk mengikuti langkah-langkah keamanan AI. Dan Jaksa Agung California mungkin akan mulai menuntut pengembang AI jika alat mereka digunakan dalam situasi berbahaya.
Pada tahun 2027, Board of Frontier Models mungkin mulai mengeluarkan pedoman bagi pengembang AI tentang cara melatih model AI dengan aman dan terjamin.
Jika SB 1047 ditolak
Jika Newsom menolak memilih SB 1047, ambisi OpenAI akan terpenuhi, dan regulator pemerintah akan memimpin dalam mengatur model AI…
Pada hari Kamis, OpenAI dan Anthropic meletakkan dasar seperti apa peraturan AI federal nantinya. Mereka setuju untuk memberikan AI Safety Institute, sebuah badan federal, akses ke model AI canggih mereka, menurut siaran pers. Pada saat yang sama, OpenAI menyetujui rancangan undang-undang yang memungkinkan AI Safety Institute menetapkan standar untuk model AI.
“Karena berbagai alasan, kami pikir penting untuk menjadikan ini sebagai inisiatif nasional,” CEO OpenAI Sam Altman mentweet pada hari Kamis.
Mengingat hal yang tersirat, lembaga-lembaga negara sering kali mengeluarkan peraturan teknis yang lebih sederhana daripada California dan membutuhkan waktu lebih lama untuk melakukannya. Namun lebih dari itu, Silicon Valley secara historis telah menjadi mitra pemerintah Amerika Serikat.
“Ada sejarah panjang superkomputer yang bekerja dengan feed,” kata Casado. “Saat saya bekerja di laboratorium nasional, setiap kali komputer baru keluar, versi pertamanya akan diberikan kepada pemerintah. Kita bisa melakukan ini agar pemerintah mempunyai kemampuan, dan menurut saya itu alasan yang lebih baik daripada pengujian keamanan.”
