Grok milik Elon Musk merilis versi baru avatar AI-nya pada Selasa malam yang, seperti chatbot AI, memiliki lebih sedikit perlindungan. Artinya, Anda dapat membuat rekaman palsu Donald Trump sedang menghisap ganja di Joe Rogan Show, misalnya, dan mempostingnya langsung ke platform X.
Media sosial sudah penuh dengan gambar-gambar mesum dari produk baru. Hal ini menimbulkan kekhawatiran mengenai pemilu mendatang, namun yang jelas bukan perusahaan AI milik Elon Musk yang menyebabkan kegilaan ini. Musk tampaknya telah menemukan perusahaan yang sesuai dengan visinya tentang Grok sebagai “chatbot anti-terbangun” tanpa keamanan bawaan yang ditemukan di Dall-E OpenAI atau Imagen Google. Pada hari Selasa, xAI mengumumkan kemitraan dengan Black Forest Labs, sebuah startup gambar dan video AI pada tanggal 1 Agustus, untuk mendukung generator gambar Grok menggunakan model FLUX.1 miliknya.
Black Forest Labs berbasis di Jerman, dan baru-baru ini menjadi perusahaan swasta dengan pendanaan awal sebesar $31 juta, dipimpin oleh Andreessen Horowitz, menurut siaran pers. Investor terkenal lainnya termasuk CEO Y Combinator Garry Tan dan mantan CEO Oculus Brandan Iribe. Salah satu pendirinya, Robin Rombach, Patrick Esser, dan Andreas Blattmann, adalah peneliti yang membantu mengembangkan model Difusi Stabil Stabilitas AI.
Menurut Analisis Buatan, model FLUX.1 Black Forest Lab mengungguli generator gambar AI Midjourney dan OpenAI dalam hal kualitas, sebagaimana dinilai oleh pengguna pada gambar mereka.
Startup tersebut mengatakan bahwa mereka “membuat prototipe kami lebih mudah diakses oleh publik,” dengan gambar visual AI di Hugging Face dan GitHub. Dalam waktu dekat, perusahaan mengatakan berencana membuat model teks dan video juga.
Black Forest Labs tidak segera menanggapi permintaan komentar dari TechCrunch.
Dalam rilisnya, perusahaan mengatakan mereka ingin “memperkuat kepercayaan terhadap keselamatan model-model ini,” namun beberapa orang berpendapat bahwa membanjirnya gambar AI yang dibuat pada X pada hari Rabu justru berdampak sebaliknya. Banyak gambar yang dapat dibuat oleh pengguna menggunakan alat Grok dan Black Forest Labs, seperti Pikachu yang memegang pistol, tidak dapat direproduksi oleh generator gambar Google atau OpenAI. Tidak diragukan lagi bahwa gambar berhak cipta digunakan untuk mengajarkan genre ini.
Itulah intinya
Kurangnya pertahanan inilah yang menjadi alasan utama Musk memilih agen ini. Musk telah menegaskan bahwa dia yakin bahwa keamanan membuat model AI lebih aman. “Bahaya mengajarkan AI untuk bangun – dengan kata lain, berbohong – berbahaya,” kata Musk dalam tweet pada tahun 2022.
Direktur Dewan Black Forest Labs, Anjney Midha, menulis di X daftar kesamaan antara gambar yang dibuat pada hari pertama peluncuran Google Gemini dan kemitraan Flux Grok. Utas ini menyajikan kasus Google Gemini yang terdokumentasi dengan baik dalam menciptakan gambar orang yang akurat secara historis, terutama dengan memasukkan warna berbeda ke dalam gambar secara tidak tepat.
“Saya senang @ibab dan tim menanggapi hal ini dengan serius dan membuat keputusan yang tepat,” kata Midha dalam sebuah tweet, mengacu pada FLUX.1 yang tampaknya menghindari masalah tersebut (dan mengutip masalah kepala peneliti xAI Igor Babuschkin) .
Akibat kesalahan ini, Google meminta maaf dan mematikan kemampuan Gemini untuk menghasilkan gambar manusia pada bulan Februari. Saat ini, perusahaan tidak mengizinkan Gemini membuat citra publik.
Risiko informasi palsu
Kurangnya perlindungan bisa menimbulkan masalah bagi Musk. Situs X dikritik ketika gambar AI yang mewakili Taylor Swift menjadi viral di platform tersebut. Selain pengalaman itu, Grok menciptakan tema-tema indah yang ditampilkan kepada pengguna di X hampir setiap minggu.
Pekan lalu, lima menteri luar negeri mendesak X untuk berhenti menerbitkan berita palsu tentang Kamala Harris di X. Awal bulan ini, Musk juga membagikan video yang menggunakan AI untuk mengekstrak suara Harris, membuatnya tampak seperti Wakil Presiden mengakui bahwa “pekerjaan berbeda .
Musk tampaknya bersedia membiarkan informasi yang salah seperti ini menyebar di platformnya. Dengan mengizinkan pengguna memposting gambar AI Grok, yang tampaknya tidak memiliki tanda air, langsung ke platform, mereka membuka banjir berita palsu yang menargetkan setiap X.
