Tim Superalignment OpenAI, yang bertanggung jawab untuk mengembangkan cara mengendalikan dan mengelola sistem AI “senior”, dijanjikan 20% dari pendapatan perusahaan, menurut seseorang di tim. Namun permintaan untuk bagian kecil dari komputer ini sering kali ditolak, sehingga menghalangi tim untuk melakukan pekerjaannya.
Kabar tersebut antara lain memaksa beberapa anggotanya untuk mengundurkan diri pada minggu ini, termasuk rekannya Jan Leike, mantan peneliti DeepMind di OpenAI yang terlibat dalam pengembangan ChatGPT, GPT-4 dan pendahulu ChatGPT, InstructGPT.
Leike mengumumkan beberapa alasan pengunduran dirinya pada Jumat pagi. “Saya telah berdebat dengan pimpinan OpenAI mengenai hal-hal terpenting bagi perusahaan selama beberapa waktu, hingga kita mencapai krisis,” tulis Leike dalam serangkaian artikel di X. “Saya percaya bahwa lebih banyak bandwidth harus digunakan untuk perencanaan untuk generasi model berikutnya, untuk keamanan, pengawasan, perencanaan, keamanan, ketahanan musuh, rekonsiliasi (privasi), dampak sosial, dan topik terkait ini adalah masalah yang sulit untuk diatasi, dan saya khawatir bahwa kami khawatir bahwa kami khawatir bahwa kami khawatir bahwa kami khawatir bahwa kami khawatir bahwa kami khawatir bahwa kami khawatir bahwa kami khawatir bahwa tidak berada di jalur yang tepat untuk sampai ke sana.”
OpenAI tidak membalas permintaan komentar mengenai pendanaan yang dijanjikan dan diberikan kepada kelompok tersebut.
OpenAI membentuk tim Superalignment Juli lalu, dan dipimpin oleh Leike dan salah satu pendiri OpenAI Ilya Sutskever, yang juga mengundurkan diri minggu ini. Hal ini bertujuan untuk mengatasi tantangan teknologi terbesar dalam pengelolaan AI cerdas selama empat tahun ke depan. Bergabung dengan para ilmuwan dan insinyur dari divisi OpenAI sebelumnya serta peneliti dari organisasi lain di seluruh perusahaan, tim ini harus berkontribusi pada penelitian kesadaran keamanan baik internal maupun eksternal terhadap OpenAI, serta melalui inisiatif termasuk program dukungan penelitian. , meminta dan berbagi layanan dengan banyak perusahaan AI.
Kelompok Superalignment mampu menerbitkan kelompok penelitian keamanan dan memberikan jutaan dolar kepada peneliti asing. Namun, ketika peluncuran produk mulai melebihi bandwidth kepemimpinan OpenAI, tim Superalignment menyadari bahwa mereka harus berjuang untuk mendapatkan dana tambahan – dana yang mereka yakini penting untuk misi perusahaan dalam menciptakan AI canggih untuk kepentingan dari semua orang. .
“Membuat mesin lebih pintar dari manusia adalah bisnis yang berisiko,” lanjut Leike. “Tetapi selama bertahun-tahun, budaya keamanan dan langkah-langkah keamanan telah berkontribusi terhadap hal-hal yang cemerlang.”
Pertarungan Sutskever dengan CEO OpenAI Sam Altman menjadi gangguan besar.
Sutskever, bersama dengan mantan eksekutif OpenAI, segera memecat Altman akhir tahun lalu atas keluhan bahwa Altman “tidak transparan” dengan anggota dewan. Di bawah tekanan dari investor OpenAI, termasuk Microsoft, dan banyak karyawan perusahaan, Altman akhirnya dipekerjakan kembali, sebagian besar dewan direksi mengundurkan diri dan Sutskever dilaporkan tidak pernah kembali bekerja.
Menurut sumber tersebut, Sutskever mendukung kelompok Superalignment – tidak hanya untuk menyediakan penelitian tetapi juga sebagai jembatan ke kelompok lain dalam OpenAI. Dia juga akan berperan sebagai duta, menyoroti pentingnya kerja kelompok ini bagi para pengambil keputusan utama OpenAI.
Menyusul kepergian Leike dan Sutskever, John Schulman, salah satu pendiri OpenAI, beralih ke jenis pekerjaan yang dilakukan tim Superalignment, namun tim ini tidak lagi menjadi tim yang berdedikasi – melainkan akan menjadi tim yang kolaboratif secara longgar. sekelompok peneliti yang diintegrasikan ke dalam divisi di seluruh perusahaan. Seorang juru bicara OpenAI menggambarkannya sebagai “menggabungkan (tim) secara mendalam.”
Kekhawatirannya adalah, sebagai akibatnya, pengembangan AI OpenAI tidak akan berfokus pada keamanan sebagaimana mestinya.
Memperkenalkan buletin AI! Gabung Di Sini untuk mulai menerimanya di kotak masuk Anda pada tanggal 5 Juni.
