OpenAI telah memblokir sekelompok akun ChatGPT yang terkait dengan operasi Iran yang menyelenggarakan pemilihan presiden AS, menurut sebuah posting blog pada hari Jumat. Perusahaan tersebut mengatakan bahwa layanan tersebut telah menciptakan konten dan konten media sosial yang dihasilkan oleh AI, meskipun tampaknya layanan tersebut tidak menjangkau khalayak yang lebih luas.
Ini bukan pertama kalinya OpenAI melarang akun terkait pemerintah yang menyalahgunakan ChatGPT. Pada bulan Mei, perusahaan tersebut gagal dalam lima kampanye menggunakan ChatGPT untuk memanipulasi opini publik.
Kisah-kisah ini mengingatkan kita pada aktor-aktor pemerintah yang menggunakan media sosial, seperti Facebook dan Twitter, untuk mencoba mempengaruhi pemilu yang lalu. Kini kelompok serupa (atau bahkan sama) menggunakan AI generatif untuk membanjiri saluran media sosial dengan informasi palsu. Seperti perusahaan media sosial, OpenAI tampaknya menggunakan pendekatan proaktif dengan memblokir akun-akun yang terkait dengan upaya ini.
OpenAI mengatakan penyelidikannya terhadap akun-akun ini memanfaatkan laporan Microsoft Threat Intelligence yang diterbitkan minggu lalu, yang mengidentifikasi kelompok tersebut (yang disebut Storm-2035) sebagai bagian dari kampanye untuk mempengaruhi pemilu AS mulai tahun 2020.
Microsoft mengatakan bahwa Storm-2035 adalah jaringan Iran yang memiliki beberapa situs web yang meniru media berita dan “melibatkan kelompok pemilih AS dalam isu-isu non-politik dan mengirimkan pesan tentang isu-isu seperti kandidat presiden AS, hak-hak LGBTQ, dan konflik Israel-Hamas . Pedoman ini, sebagaimana telah terbukti efektif dalam hal-hal lain, tidak mempromosikan satu kebijakan atau kebijakan lainnya, melainkan menabur perselisihan dan konflik.
OpenAI mengidentifikasi lima situs web Storm-2035, yang ditampilkan sebagai berita progresif dan konservatif dengan nama yang terdengar seperti “evenpolitics.com”. Kelompok tersebut menggunakan ChatGPT untuk menulis artikel panjang, termasuk artikel yang mengatakan “X menghitung tweet Trump,” yang tidak dilakukan oleh platform Elon Musk (jika ada, Musk mendorong mantan Presiden Donald Trump untuk berbuat lebih banyak pada X).
Di media sosial, OpenAI mengidentifikasi dua belas akun X dan satu akun Instagram yang dioperasikan oleh layanan tersebut. Perusahaan mengklaim bahwa ChatGPT digunakan untuk menulis ulang berbagai komentar politik yang diposting di platform tersebut. Salah satu tweet palsu dan menyesatkan ini mengklaim bahwa Kamala Harris mengutip “peningkatan biaya imigrasi” karena perubahan iklim, diikuti dengan “#DumpKamala.”
OpenAI mengatakan mereka tidak melihat bukti bahwa postingan Storm-2035 dibagikan secara luas, dan mencatat bahwa sebagian besar postingan media sosialnya hanya menerima sedikit atau tidak ada suka, bagikan, atau komentar. Hal ini sering kali melibatkan proses ini, yang cepat dan murah untuk dilakukan menggunakan alat AI seperti ChatGPT. Berharap untuk melihat lebih banyak informasi seperti ini ketika pemilu semakin dekat dan perdebatan partisan di Internet terus berlanjut.
