Kamis larut malam, Oprah menayangkan acara spesial tentang AI, berjudul “AI adalah Masa Depan Kita”. Para tamu termasuk CEO OpenAI Sam Altman, aktivis teknologi Marques Brownlee, dan direktur FBI saat ini Christopher Wray.
Suara yang dominan adalah skeptisisme – dan kehati-hatian.
Oprah mengatakan dalam pidatonya yang telah disiapkan bahwa jin AI sudah keluar dari botol, baik atau buruk, dan bahwa umat manusia harus belajar untuk menghadapi konsekuensinya.
“AI masih di luar kendali kami dan…pemahaman kami,” katanya. “Tetapi hal ini telah tiba, dan kita akan hidup dengan teknologi yang dapat menjadi mitra sekaligus musuh kita… Kita adalah makhluk yang paling mudah beradaptasi di planet ini. Kita akan beradaptasi. Namun tetap perhatikan apa yang nyata. Bahayanya tidak bisa lebih besar lagi.”
Sam Altman menjanjikan banyak hal
Altman, dalam wawancara pertama Oprah malam itu, mengajukan kasus yang meragukan bahwa AI saat ini mempelajari konsep-konsep dalam data yang dilatihnya.
“Kami menunjukkan rencana seribu kata berturut-turut dan memintanya untuk memprediksi apa yang akan terjadi,” kata Oprah. “Sistem belajar untuk memprediksi, dan kemudian secara internal, ia mempelajari apa yang ada di baliknya.”
Banyak ahli yang tidak setuju.
Sistem AI seperti ChatGPT dan o1, yang diluncurkan OpenAI pada hari Kamis, sebenarnya memprediksi kata berikutnya dalam sebuah kalimat. Namun ini hanyalah mesin statistik – ia mempelajari bagaimana data dapat berperilaku berdasarkan pola. Mereka tidak punya niat; dia hanya membuat tebakan cerdas.
Meskipun Altman mampu melampaui kemampuan sistem AI saat ini, dia menekankan pentingnya mencari tahu cara menguji keamanan sistem AI.
“Salah satu hal pertama yang harus kita lakukan, dan ini sedang terjadi sekarang, adalah membuat pemerintah mulai mencari cara untuk menguji keamanan sistem ini, seperti yang kita lakukan pada pesawat terbang atau obat-obatan baru,” ujarnya. “Saya sendiri, saya mungkin menghabiskan beberapa hari dengan pejabat pemerintah.”
Dorongan Altman untuk mendapatkan arah mungkin egois. OpenAI menentang rancangan undang-undang perlindungan AI California SB 1047, dengan mengatakan bahwa hal itu akan “menghambat kreativitas”. Namun, mantan staf OpenAI dan pakar AI seperti Geoffrey Hinton, mendukung RUU tersebut, dengan mengatakan bahwa RUU tersebut akan memberikan perlindungan penting bagi pengembangan AI.
Oprah juga menyemangati Altman tentang perannya sebagai pemimpin OpenAI. Dia bertanya mengapa orang harus mempercayainya dan dia menghindari pertanyaan tersebut, dengan mengatakan bahwa perusahaannya berusaha membangun kepercayaan dari waktu ke waktu.
Di masa lalu, Altman secara khusus menyatakan bahwa orang tidak harus mempercayai dia atau satu orang pun untuk memastikan bahwa AI bermanfaat bagi dunia.
CEO OpenAI kemudian mengatakan bahwa tidak biasa mendengar Oprah bertanya apakah dia adalah “orang paling berkuasa dan berbahaya di dunia”, seperti yang tertulis dalam judul berita. Dia tidak setuju, namun mengatakan bahwa dia merasa bertanggung jawab untuk membimbing AI dengan cara yang baik bagi manusia.
Oprah tentang deepfake
Namun, prediksi dan tebakan hanya dapat membawa Anda sejauh ini, sebagai pembuat video yang didukung AI seperti acara Sora OpenAI.
Dalam satu momen spesial, Brownlee menunjukkan sampel Sora kepada Oprah. “Sekarang, Anda masih bisa melihat bagian-bagian ini dan mengatakan ada sesuatu yang salah,” katanya.
“Tidak, saya tidak bisa,” jawab Oprah.
Acara tersebut merupakan bagian dari wawancara dengan Wray, yang menceritakan saat pertama kali ia mempelajari teknologi deepfake AI.
“Saya berada di ruang konferensi, dan tim (FBI) berkumpul untuk menunjukkan kepada saya bagaimana augmented AI dibuat,” kata Wray. “Dan dia membuatkan video untukku mengatakan hal-hal yang tidak pernah dan tidak akan pernah aku katakan.”
Wray berbicara tentang kebangkitan seks yang dikendalikan AI. Menurut perusahaan keamanan siber ESET, terjadi peningkatan kejahatan seks sebesar 178% antara tahun 2022 dan 2023, didorong oleh sektor teknologi AI.
“Seseorang yang terlihat seperti seorang teman melihat ke arah anak muda,” kata Wray, lalu menggunakan foto yang dihasilkan AI untuk memastikan anak tersebut mengirimkan foto asli. Faktanya, itu adalah seseorang yang berada di belakang keyboard di Nigeria, dan ketika mereka memiliki foto-foto tersebut, mereka mengancam akan mempermalukan anak tersebut dan berkata, jika Anda tidak membayar, kami akan membagikan foto-foto ini yang akan menghancurkan hidup Anda. “
Wray juga menyinggung kata-kata kotor dalam pemilihan presiden AS mendatang. Meskipun dia mengatakan bahwa “tidak ada waktu untuk panik,” dia menekankan bahwa “setiap orang di Amerika” harus “terus-menerus memberikan perhatian dan kehati-hatian terhadap penggunaan AI” dan bagaimana AI “dapat digunakan oleh kejahatan.” anak laki-laki melawan kita semua.”
“Sering kali kita mendapatkan sesuatu di media yang mirip dengan Bill dari Topeka atau Mary dari Dayton, Anda tahu, seorang perwira intelijen Rusia atau Tiongkok di luar Beijing atau Moskow,” kata Wray.
Memang benar, survei Statista menemukan bahwa lebih dari tiga orang yang disurvei di AS melihat informasi palsu – atau apa yang mereka anggap salah – tentang berita utama pada akhir tahun 2023. Tahun ini, gambar calon wakil presiden Kamala Harris dan kandidat wakil presiden Kamala Harris dan kandidat presiden yang disurvei oleh AI menyesatkan. mantan presiden. Donald Trump mendapat jutaan penayangan di media sosial termasuk X.
Bill Gates tentang gangguan AI
Untuk mengubah arah teknologi, Oprah mewawancarai pendiri Microsoft Bill Gates, yang menyatakan harapannya bahwa AI akan memajukan pendidikan dan kedokteran.
“AI itu seperti orang ketiga yang pernah (di rumah sakit) menulis, artinya mereka sudah diberi obat,” kata Gates. “Dan alih-alih dokter melihat ke komputer, mereka malah melakukannya bersama Anda, dan perangkat lunaknya memastikan ada dokumentasi yang benar-benar bagus.”
Namun Gates tidak mengabaikan kemungkinan diskriminasi dari pendidikan yang buruk.
Sebuah studi baru-baru ini menemukan bahwa sistem pengenalan suara dari perusahaan teknologi terkemuka lebih cenderung salah mengetik kata dari penutur kulit hitam dibandingkan penutur kulit putih. Beberapa penelitian menunjukkan bahwa sistem AI memperkuat keyakinan lama yang salah bahwa ada perbedaan biologis antara orang kulit hitam dan kulit putih – kebohongan yang menyebabkan dokter salah mendiagnosis masalah kesehatan.
Di dalam kelas, kata Gates, AI bisa “selalu aktif” dan “memahami cara memotivasi Anda…
Ini bukanlah jumlah kelas yang terlihat.
Musim panas lalu, sekolah dan perguruan tinggi segera melarang ChatGPT karena ketakutan akan plagiarisme dan plagiarisme. Sejak itu, beberapa orang telah mengubah batasannya. Namun tidak semua orang percaya bahwa GenAI dapat memberikan manfaat, merujuk pada penelitian seperti yang dilakukan oleh Safer Internet Centre di Inggris, yang menemukan bahwa separuh dari anak-anak (53%) mengatakan bahwa mereka pernah melihat orang-orang seusia mereka menggunakan GenAI secara tidak benar – misalnya membuat produk palsu yang kredibel. informasi atau gambar yang digunakan untuk menyinggung seseorang.
Organisasi Pendidikan, Ilmu Pengetahuan dan Kebudayaan PBB (UNESCO) pada akhir tahun lalu mendesak pemerintah untuk mengatur penggunaan GenAI dalam pendidikan, termasuk menetapkan batasan usia bagi pengguna dan upaya perlindungan data dan privasi pengguna.
