CEO OpenAI Sam Altman mengundurkan diri dari gugus tugas internal OpenAI yang dibentuk pada bulan Mei untuk mengawasi keputusan “berbahaya” tentang operasi dan layanan perusahaan.
Dalam postingan blog hari ini, OpenAI mengatakan komite tersebut, Komite Keselamatan dan Keamanan, akan menjadi kelompok pengawas “independen” yang dipimpin oleh profesor Carnegie Mellon Zico Kolter, CEO Quora Adam D’Angelo, pensiunan jenderal Angkatan Darat AS Paul Nakasone, dan mantan jenderal Angkatan Darat AS. -EVP Sony Nicole Seligman. Keduanya saat ini adalah anggota Dewan Direksi OpenAI.
OpenAI mencatat dalam pernyataannya bahwa komite telah meninjau keamanan o1, model AI terbaru OpenAI – meskipun Altman masih menjadi ketuanya. Tim tersebut akan terus menerima pembaruan rutin dari tim keamanan dan keselamatan OpenAI, kata perusahaan tersebut, dan berhak untuk menunda rilis hingga masalah keamanan teratasi.
“Sebagai bagian dari pekerjaannya, Komite Keselamatan dan Keamanan…akan terus menerima laporan rutin mengenai evaluasi saat ini dan masa depan, serta laporan mengenai evaluasi pasca-pelepasan,” tulis OpenAI dalam postingannya. “(Kami) menggunakan metode dan sistem asli kami untuk membangun sistem keamanan dan keselamatan terintegrasi dengan metode pengambilan sampel yang terkenal.”
Kepergian Altman dari Komite Pertahanan dan Keamanan terjadi setelah lima senator AS mengajukan pertanyaan tentang kebijakan OpenAI dalam sebuah surat kepada Altman musim panas ini. Sekitar setengah dari staf OpenAI yang fokus pada risiko jangka panjang AI telah keluar, dan mantan peneliti OpenAI mengkritik Altman karena menentang aturan AI yang “realistis” dan mendukung kebijakan yang memajukan tujuan industri OpenAI.
Pada akhirnya, OpenAI telah meningkatkan investasinya dalam melobi pemerintah, menghasilkan $800.000 dalam enam bulan pertama tahun 2024 dibandingkan $260.000 pada tahun lalu. Altman juga pada awal musim semi ini bergabung dengan Dewan Keselamatan dan Keamanan Kecerdasan Buatan Departemen Keamanan Dalam Negeri AS, yang memberi nasihat tentang pengembangan dan penerapan AI di infrastruktur penting AS.
Bahkan jika Altman dicopot, tidak ada indikasi bahwa Komite Keselamatan dan Keamanan akan membuat keputusan penting yang berdampak signifikan pada jalan komersial OpenAI. OpenAI mengatakan pada bulan Mei bahwa mereka akan berusaha mengatasi “keberatan yang sah” terhadap pekerjaannya melalui komite – “keberatan yang masuk akal” yang tergantung pada pihak yang melihatnya.
Dalam sebuah opini untuk The Economist pada bulan Mei, anggota dewan OpenAI Helen Toner dan Tasha McCauley mengatakan mereka tidak menganggap OpenAI seperti yang ada saat ini dapat dipercaya untuk dimintai pertanggungjawaban. “Tetapi berdasarkan pengalaman kami, kami percaya bahwa pengaturan mandiri tidak mampu mengatasi tantangan dalam meningkatkan keuntungan,” tulis mereka.
Dan momentum untuk OpenAI semakin berkembang.
Rumor mengatakan bahwa perusahaan sedang dalam proses mengumpulkan dana sebesar $6,5+ miliar yang akan menjadikan OpenAI lebih dari $150 miliar. Untuk mengakhiri kesepakatan tersebut, OpenAI akan meninggalkan proyek nirlabanya, yang berupaya mengembalikan uang investor guna memastikan bahwa OpenAI memenuhi misinya: menciptakan kecerdasan buatan yang “bermanfaat bagi semua orang.”
