Google pada hari Kamis mengeluarkan pedoman baru untuk pengembang aplikasi AI yang didistribusikan melalui Google Play, dengan harapan dapat mengurangi konten yang tidak pantas dan ilegal. Perusahaan mengatakan bahwa aplikasi yang menyediakan fitur AI harus mencegah pelepasan konten terlarang – termasuk seks, kekerasan, dan lainnya – dan perlu menyediakan cara bagi pengguna untuk menampilkan temuan mereka. Selain itu, Google mengatakan pengembang harus “menguji secara ketat” alat dan model AI, untuk memastikan mereka menghormati keamanan dan privasi pengguna.
Hal ini juga melanggar aplikasi yang konten iklannya mendorong penggunaan yang tidak pantas, seperti aplikasi yang menelanjangi orang atau membuat gambar telanjang yang tidak pantas. Jika iklan menyatakan bahwa aplikasi dapat melakukan hal ini, aplikasi tersebut mungkin diblokir dari Google Play, baik aplikasi tersebut dapat melakukan hal ini atau tidak.
Pedoman ini mengikuti meningkatnya epidemi program pengupasan AI yang telah menyebar luas di media sosial dalam beberapa bulan terakhir. Laporan bulan April oleh 404 Media, misalnya, menemukan bahwa Instagram menghosting iklan untuk aplikasi yang mengklaim menggunakan AI untuk membuat drama porno yang mendalam. Salah satu aplikasi memasarkan dirinya menggunakan foto Kim Kardashian dan slogan, “Telanjangi setiap gadis secara gratis.” Apple dan Google telah menarik aplikasi ini dari toko aplikasi mereka, namun masalahnya masih meluas.
Sekolah-sekolah di seluruh AS melaporkan masalah ketika siswa mengalami deep AI terhadap siswa lain (dan terkadang guru) karena penindasan dan pelecehan, serta bentuk AI lainnya yang tidak pantas. Bulan lalu, AI yang sangat rasis terhadap seorang kepala sekolah menyebabkan penangkapan di Baltimore. Yang lebih parahnya, masalah ini terkadang juga menimpa siswa sekolah menengah.
Google mengatakan kebijakannya akan memastikan bahwa tidak ada aplikasi dari Google Play yang berisi konten buatan AI yang mungkin tidak pantas atau berbahaya bagi pengguna. Kebijakan ini mengacu pada Kebijakan Konten Buatan AI yang ada sebagai titik referensi agar persyaratannya disetujui oleh Google Play. Perusahaan mengatakan perangkat lunak AI tidak akan mengizinkan pelepasan konten ilegal apa pun dan juga harus memberi pengguna cara untuk menandai konten yang menyinggung dan tidak pantas, serta mengevaluasi dan memprioritaskan tanggapan tersebut. Hasil ini sangat penting terutama dalam aplikasi yang penggunanya “membuat konten berdasarkan apa yang mereka ketahui”, kata Google, seperti aplikasi yang mungkin memiliki peringkat tinggi atau populer bagi selebriti.
Pengembang tidak dapat lagi melaporkan bahwa aplikasi mereka melanggar aturan Google Play, menurut Google App Promotion. Jika dinyatakan penggunaan tidak pantas, aplikasi tersebut dapat dihapus dari toko aplikasi.
Selain itu, pengembang perangkat lunak memiliki tanggung jawab untuk melindungi perangkat lunak mereka dari instruksi yang dapat mengubah fitur AI mereka untuk membuat konten berbahaya dan menyinggung. Google mengatakan pengembang dapat menggunakan lingkungan pengujiannya untuk membagikan versi awal aplikasi mereka kepada pengguna untuk mendapatkan masukan. Perusahaan sangat menyarankan agar pengembang tidak hanya menguji sebelum menginstal tetapi juga menulis pengujian, karena Google mungkin meminta peninjauan di masa mendatang.
Perusahaan ini juga menerbitkan produk dan praktik terbaik lainnya, seperti Buku Panduan Manusia + AI, yang bertujuan untuk membantu pengembang AI.
