Memiliki bisnis yang bergerak cepat seperti AI adalah hal yang sulit. Jadi, hingga AI dapat melakukannya untuk Anda, inilah berita terbaru dari seluruh dunia tentang pembelajaran mesin, serta penelitian dan eksperimen penting yang belum kami liput sendiri.
Omong-omong, TechCrunch berencana segera meluncurkan buletin AI. Dengarkan dirimu sendiri. Sementara itu, kami meningkatkan konten AI kami, yang sebelumnya bersifat dua bulanan (atau lebih), menjadi mingguan – jadi pantau terus pembaruan lainnya.
Minggu ini di AI, OpenAI mengungkapkan bahwa mereka berupaya mengembangkan pornografi AI dengan “benar”. Ya, Anda tidak salah dengar. Diumumkan dalam sebuah dokumen yang bertujuan untuk menutup tirai dan mengumpulkan masukan mengenai pedoman AI, kebijakan NSFW OpenAI yang baru bertujuan untuk memicu diskusi tentang bagaimana – dan apakah – perusahaan dapat mengizinkan gambar dan teks muncul pada produk AI-nya, kata OpenAI.
“Kami ingin memastikan bahwa masyarakat memiliki kemampuan untuk mengontrol diri mereka sendiri sehingga mereka tidak melanggar hukum atau hak orang lain,” Joanne Jang, anggota tim produk OpenAI, mengatakan kepada NPR. “Ada aktivitas yang melibatkan seks atau alat kelamin yang penting bagi pengguna.”
Ini bukan pertama kalinya OpenAI menunjukkan kesediaannya untuk mengambil tindakan di bidang kontroversial. Awal tahun ini, Mira Murati, CTO perusahaan tersebut, mengatakan kepada The Wall Street Journal bahwa dia “tidak yakin” apakah OpenAI akan mengizinkan alat pemrosesan videonya, Sora, digunakan untuk membuat karakter manusia.
Jadi apa yang membuat ini?
Di sana Dan masa depan di mana OpenAI membuka pintu bagi pornografi yang dihasilkan AI dan semuanya… bagus. Saya rasa Jang tidak salah jika mengatakan bahwa ada bentuk kecerdasan buatan yang valid – kata-kata yang dapat dihasilkan dengan bantuan alat AI.
Tapi saya tidak yakin kita bisa mempercayai OpenAI – atau vendor AI mana pun – untuk memperbaikinya.
Pertimbangkan aspek kebebasan berkreasi, misalnya. Model OpenAI telah dilatih pada berbagai konten internet, beberapa di antaranya tidak diragukan lagi bersifat porno. Namun OpenAI tidak mengizinkan semua ini – atau bahkan mengizinkan pengembang menghentikan pelatihan hingga saat ini (dan itupun hanya beberapa pelatihan).
Sulit untuk hidup dalam konten dewasa, dan jika OpenAI menjadi populer untuk pornografi yang dibuat oleh AI, akan ada banyak persaingan yang dihadapi pembuatnya – sebuah kompetisi yang dibangun berdasarkan karya pembuatnya, bukan untuk apa-apa.
Masalah lainnya menurut saya adalah kegagalan sistem keamanan saat ini. OpenAI dan pesaingnya telah menyempurnakan alat penyaringan dan kontrol mereka selama bertahun-tahun. Namun pengguna menemukan solusi yang memungkinkan mereka menyalahgunakan model, aplikasi, dan platform AI perusahaan.
Pada bulan Januari, Microsoft terpaksa melakukan perubahan pada alat pembuatan gambar Creator, yang menggunakan model OpenAI, setelah pengguna menemukan cara untuk membuat gambar telanjang Taylor Swift. Di sisi pengiriman pesan, sulit untuk menemukan chatbot yang dibangun di atas orang-orang yang mengaku aman, seperti Claude 3 dari Anthropic, yang dengan mudah mengeluarkan alat kelamin.
AI telah menciptakan kekerasan seksual jenis baru. Siswa sekolah dasar dan sekolah menengah atas menggunakan perangkat lunak bertenaga AI untuk “menanggalkan pakaian” teman sekelasnya tanpa izin; Survei tahun 2021 yang dilakukan di Inggris, Selandia Baru, dan Australia menemukan bahwa 14% responden berusia 16 hingga 64 tahun telah menjadi korban gambar palsu.
Undang-undang baru di AS dan negara lain berupaya mengatasi hal ini. Namun belum ada kepastian apakah sistem peradilan – sistem peradilan yang sudah berjuang untuk menghapuskan terlalu banyak kejahatan terkait seks – dapat menangani industri yang bergerak cepat seperti AI.
Sejujurnya, sulit membayangkan cara OpenAI dapat menangani pornografi yang dihasilkan AI tanpa risiko. Mungkin OpenAI akan memikirkan kembali pendekatannya. Atau mungkin – melawan rintangan – itu mereka akan menemukan cara terbaik. Apapun yang terjadi, sepertinya kita akan segera mengetahuinya.
Berikut beberapa cerita AI dari beberapa hari terakhir:
- Rencana AI Apple: CEO Apple Tim Cook mengungkapkan sedikit tentang rencana perusahaan untuk bergerak maju dengan AI selama laporan pendapatan minggu lalu. Sarah memiliki cerita lengkapnya.
- GenAI Perusahaan: Para eksekutif Dropbox dan Figma – masing-masing Drew Houston dan Dylan Field – telah berinvestasi di Lamini, sebuah startup teknologi inovasi AI dan platform pengembangan AI yang ditujukan untuk bisnis.
- AI untuk dukungan pelanggan: Airbnb memperkenalkan fitur baru yang memungkinkan tuan rumah memilih saran yang didukung AI untuk menjawab pertanyaan tamu, seperti mengirimkan panduan rumah kepada tamu.
- Microsoft melarang penggunaan AI: Microsoft juga telah mengonfirmasi larangannya terhadap polisi AS menggunakan AI pengenalan wajah. Peraturan ini juga melarang regulator di seluruh dunia menggunakan teknologi pengenalan wajah pada kamera tubuh dan kamera dasbor.
- Biaya awan: Beberapa penyedia cloud seperti CoreWeave mengumpulkan ratusan juta dolar seiring dengan perkembangan AI yang mendorong permintaan akan alat yang terjangkau untuk melatih dan menjalankan model.
- RAG memiliki keterbatasan: Kecerdasan buatan merupakan tantangan besar bagi bisnis yang ingin mengintegrasikan AI ke dalam operasi mereka. Beberapa vendor mengklaim bahwa mereka dapat menyelesaikannya menggunakan metode yang disebut RAG. Namun klaim tersebut terlalu dilebih-lebihkan, sehingga benar-benar sesuai dengan klaim Anda.
- Ringkasan pertemuan Vogels: CTO Amazon, Werner Vogels, membuka program konferensi singkat yang disebut Distill. Seperti yang Anda duga, ini sangat bergantung pada produk dan layanan Amazon.
