Kemajuan dalam alat kecerdasan buatan (AI) telah menimbulkan masalah baru di Internet: penyebaran foto telanjang buatan. Pada hari Kamis, Microsoft mengambil langkah untuk menyediakan alat bagi para pelaku pornografi untuk menghentikan mesin pencari Bing mengembalikan gambar-gambar ini.
Microsoft mengumumkan kemitraan dengan StopNCII, sebuah organisasi yang memungkinkan korban pornografi membuat sidik jari digital dari gambar-gambar porno tersebut, baik asli maupun tidak, di perangkat mereka. Mitra StopNCII kemudian menggunakan sidik jari digital, atau yang secara teknis dikenal sebagai “hash”, untuk memindai gambar di platform mereka. Bing Microsoft bergabung dengan Facebook, Instagram, Threads, TikTok, Snapchat, Reddit, PornHub, dan OnlyFans bekerja sama dengan StopNCII, dan menggunakan sidik jari digitalnya untuk menghentikan penyebaran pornografi balas dendam.
Dalam sebuah posting blog, Microsoft mengatakan telah menangani 268.000 gambar pornografi yang dikembalikan melalui pencarian gambar Bing dalam uji coba pada akhir Agustus dengan database StopNCII. Di masa lalu, Microsoft telah menyediakan alat untuk referensi langsung, namun perusahaan mengatakan bahwa hal ini terbukti tidak cukup.
“Kami telah mendengar kekhawatiran dari para pemangku kepentingan, pakar, dan pemangku kepentingan lainnya bahwa pengungkapan pengguna saja mungkin tidak berdampak atau mengatasi risiko gambar ditemukan di mesin pencari,” kata Microsoft dalam sebuah posting blog, Kamis.
Bisa dibayangkan bagaimana masalahnya dengan mesin pencari paling populer: Google.
Google Penelusuran menawarkan alatnya untuk melaporkan dan menghapus gambar pornografi dari hasil penelusurannya, namun telah dikritik oleh mantan karyawan dan korban karena tidak mematuhi StopNCII, menurut penyelidikan Wired. Sejak tahun 2020, pengguna Google di Korea Selatan telah melaporkan 170.000 pencarian dan tautan YouTube untuk seks yang tidak diinginkan, kata Wired.
Masalah AI deepfake sudah menyebar. Alat StopNCII hanya berfungsi untuk orang yang berusia di atas 18 tahun, namun situs “telanjang” telah menimbulkan masalah bagi siswa sekolah menengah di seluruh negeri. Sayangnya, Amerika Serikat tidak memiliki undang-undang pornografi AI yang komprehensif untuk meminta pertanggungjawaban semua orang, sehingga negara ini bergantung pada penegakan hukum negara bagian dan lokal untuk mengatasi masalah ini.
Jaksa di San Francisco mengajukan gugatan pada bulan Agustus untuk menghapus 16 situs paling “telanjang”. Menurut pelacak undang-undang penyelaman dalam Wired, 23 negara bagian AS telah mengeluarkan undang-undang untuk memerangi penyelaman dalam ilegal, sementara sembilan negara bagian telah melanggar konsep tersebut.