Hai teman-teman, selamat datang di buletin AI TechCrunch.
Minggu ini di AI, OpenAI kehilangan salah satu pendiri lainnya.
John Schulman, yang memainkan peran penting dalam pengembangan ChatGPT, platform OpenAI yang didukung AI, telah meninggalkan perusahaan untuk bergabung dengan pesaing Anthropic. Schulman mengumumkan kisahnya di X, mengatakan bahwa idenya berasal dari keinginan untuk memperluas minatnya pada komunikasi AI – ilmu yang memastikan AI berperilaku sebagaimana mestinya – dan melakukan lebih banyak hal dalam teknologi tersebut.
Namun kita pasti bertanya-tanya apakah waktu kepergian Schulman, yang terjadi saat Presiden OpenAI Greg Brockman mengambil liburan panjang di akhir tahun, merupakan sebuah keberuntungan.
Sebelumnya pada hari yang sama ketika Schulman mengumumkan pengunduran dirinya, OpenAI mengungkapkan bahwa mereka berencana untuk mengubah format DevDay tahun ini, memilih beberapa sesi roadshow daripada konferensi satu hari. Seorang juru bicara mengatakan kepada TechCrunch bahwa OpenAI tidak akan mengumumkan versi baru di DevDay, menunjukkan bahwa penerus perusahaan, GPT-4o, mengalami kemajuan yang lambat. (Penundaan GPU Blackwell Nvidia dapat memperlambat kecepatan.)
Mungkinkah OpenAI mendapat masalah? Apakah Schulman melihat tulisan di dinding? Citra kerajaan Sam Altman tidak diragukan lagi lebih tenang dibandingkan tahun lalu.
Ed Zitron, pakar PR dan pakar teknologi, menguraikan dalam postingannya baru-baru ini tentang banyak hambatan yang menghalangi OpenAI menuju kesuksesan lebih lanjut. Ini adalah karya yang telah diteliti dengan baik dan berwawasan luas, dan saya tidak akan melakukan ketidakadilan dengan mengulanginya. Namun poin yang dikemukakan Zitron tentang tekanan OpenAI untuk melakukan hal tersebut patut untuk dicoba.
OpenAI mengatakan ingin kehilangan $5 miliar tahun ini. Agar dana dapat meningkat (peneliti AI sangat mahal), studi model, dan prototipe yang berfungsi dalam skala besar, perusahaan perlu mengumpulkan banyak uang dalam 12 hingga 24 bulan ke depan. Microsoft jelas akan menjadi penerima manfaat; mereka memiliki 49% saham di OpenAI dan, meskipun kadang-kadang bersaing dengan mereka, mereka memiliki hubungan dekat dengan grup OpenAI. Namun dengan pertumbuhan pendapatan Microsoft sebesar 75% per tahun (hingga $19 miliar) sebagai antisipasi kembalinya AI, hal tersebut belum terjadi, bukan? Sebenarnya memiliki keinginan untuk menggelontorkan miliaran dolar ke dalam taruhan jangka panjang yang berisiko?
Reporter ini akan terkejut jika OpenAI, perusahaan AI paling populer di dunia, gagal mendapatkan pendanaan yang dibutuhkan. suatu tempat Pada akhirnya. Namun, ada kemungkinan nyata bahwa dana talangan ini akan datang dengan nada yang kurang bagus – dan mungkin perubahan haluan yang sudah lama tertunda bagi perusahaan nirlaba tersebut.
Bertahan hidup berarti OpenAI bergerak menjauh dari tujuan awalnya dan memasuki wilayah yang tidak diketahui dan tidak pasti. Dan mungkin itu adalah pil yang sulit untuk ditelan oleh Schulman (dkk.). Sulit untuk menyalahkan mereka; dengan meningkatnya skeptisisme bisnis dan perusahaan, seluruh industri AI, tidak hanya OpenAI, menghadapi tantangan.
Cerita
Apple Intelligence memiliki keterbatasan: Apple memberi pengguna pengalaman pertama mereka merasakan fitur Apple Intelligence-nya dengan dirilisnya beta pengembang iOS 18.1 bulan lalu. Namun seperti yang ditulis Ivan, Writing Tools tersandung pada topik yang tidak senonoh dan sensitif, seperti narkoba dan pembunuhan.
Nest Learning Thermostat Google mengalami perubahanr: Setelah sembilan tahun, Google menghidupkan kembali perangkat yang memberi nama Nest. Perusahaan pada hari Selasa mengumumkan peluncuran Nest Learning Thermostat 4 – 13 tahun setelah rilis aslinya dan hampir satu dekade setelah Learning Thermostat 3 dan menjelang acara Made by Google 2024 minggu depan.
Obrolan X menyebarkan kekeliruan pemilu: Grok telah menyebarkan informasi yang salah tentang Wakil Presiden Kamala Harris di X, situs jejaring sosial yang sebelumnya bernama Twitter. Hal ini berdasarkan surat terbuka yang ditulis oleh lima menteri luar negeri dan ditujukan kepada CEO Tesla, SpaceX dan X Elon Musk, yang mengklaim bahwa chatbot bertenaga AI milik X secara keliru mengatakan bahwa Harris tidak boleh muncul dalam pemungutan suara presiden AS lainnya pada tahun 2024.
YouTuber mengkritik OpenAI: Seorang pembuat konten YouTube ingin mengajukan gugatan terhadap OpenAI, dengan mengatakan bahwa perusahaan tersebut melatih model AI-nya pada jutaan video YouTube tanpa memberi tahu atau memberikan kompensasi kepada pemilik video tersebut.
Daya tarik AI sedang meningkat: Daya tarik AI bagi pemerintah AS semakin meningkat di tengah berlanjutnya pertumbuhan AI dan tahun pemilu yang dapat mempengaruhi undang-undang AI di masa depan. Jumlah kelompok yang melobi pemerintah federal mengenai isu-isu terkait AI meningkat dari 459 pada tahun 2023 menjadi 556 pada paruh pertama tahun 2024, dari bulan Januari hingga Juli.
Makalah penelitian mingguan
Model “terbuka” seperti keluarga Llama Meta, yang dapat digunakan sebanyak atau sesedikit yang dipilih oleh desainer, dapat mendorong kreativitas – namun juga memiliki risiko. Tentu saja, banyak yang memiliki lisensi yang menetapkan batasan, serta filter dan alat bawaan. Namun lebih dari itu, tidak banyak yang bisa menghentikan pelaku kejahatan menggunakan versi open source untuk menyebarkan berita palsu, misalnya, atau mencari sumber daya.
Mungkin ada masa depan.
Sebuah tim peneliti dari Harvard, organisasi nirlaba AI Safety, dan organisasi lain dalam makalah teknisnya mengusulkan cara yang “tangguh” untuk mempertahankan “keterampilan buruk” model dan mencegah model bertindak tidak tepat. Dalam eksperimen, mereka menemukan bahwa metode mereka efektif dalam mencegah “serangan” model (seperti mengelabui mereka agar memberikan informasi yang tidak seharusnya) dengan mengorbankan keakuratan model.
Ada tangkapan. Metode ini tidak bekerja dengan baik untuk model yang lebih besar karena “kendala komputasi” yang memerlukan “optimasi” untuk menguranginya lebih lanjut, jelas para peneliti dalam makalahnya. Jadi, meskipun pekerjaan awalnya menjanjikan, jangan berharap untuk melihatnya dikirimkan dalam waktu dekat.
Contoh minggu ini
Model pemrosesan grafis baru baru-baru ini muncul, dan tampaknya membuat model seperti Midjourney dan OpenAI DALL-E 3 kehabisan uang.
Disebut Flux.1, modelnya – atau lebih tepatnya, keluarga salah satu contohnya – ini dibuat oleh Black Forest Labs, sebuah perusahaan rintisan yang didirikan oleh peneliti AI di Stabilitas, yang banyak di antaranya telah bekerja dalam pembuatan Difusi Stabil dan banyak efeknya. (Black Forest Labs mengumumkan investasi pertamanya minggu lalu: investasi awal senilai $31 juta yang dipimpin oleh Andreessen Horowitz.)
Versi paling canggih dari Flux.1, Flux.1 Pro, berada di belakang API. Namun Black Forest Labs merilis dua model yang lebih kecil, Flux.1 Dev dan Flux.1 Schnell (Jerman untuk “cepat”), pada platform pengembang AI Hugging Face dan anti-cahaya untuk penggunaan komersial. Keduanya bersaing dengan Midjourney dan DALL-E 3 dalam hal kualitas gambar yang dihasilkan dan seberapa baik mereka mengikuti instruksi, kata Black Forest Labs. Dan mereka sangat pandai menuangkan kata-kata ke dalam gambar, sebuah keterampilan yang belum pernah disebutkan sebelumnya dalam desain grafis.
Black Forest Labs memilih untuk tidak membagikan data yang digunakan untuk melatih model (yang merupakan alasan lain kekhawatiran karena risiko penyalinan yang ditemukan dalam format gambar AI), dan startup tersebut belum menjelaskan secara rinci bagaimana tujuannya. untuk mencegah penyalahgunaan Flux.1. Saat ini mereka mengambil pendekatan lepas tangan – jadi berhati-hatilah.
Ambil tas
Perusahaan AI generatif semakin menerapkan perlindungan penggunaan wajar dalam hal pelatihan pemegang hak cipta tanpa izin pemiliknya. Ambil contoh Suno, platform produksi musik AI, yang baru-baru ini mengajukan argumen di pengadilan bahwa mereka diberi lisensi untuk menggunakan musik oleh artis dan label tanpa sepengetahuan artis dan label tersebut — dan tanpa membayar mereka.
Ini adalah pendapat Nvidia (mungkin) yang juga mengatakan. Menurut laporan 404 Media minggu ini, Nvidia sedang melatih model produksi video besar, bernama Cosmos, di YouTube dan Netflix. Para eksekutif puncak telah mengkritik proyek tersebut, yang mereka yakini akan bertahan dalam pertarungan pengadilan mengenai penafsiran undang-undang hak cipta AS saat ini.
Jadi, apakah penggunaan wajar akan menyelamatkan Sunos, Nvidia, OpenAI, dan Midjourneys di dunia dari api neraka? TBD – dan tuntutan hukum akan memakan waktu bertahun-tahun, tentu saja. Dapat ditemukan bahwa ledakan AI dipicu sebelum pemicunya disetel. Jika tidak, para produser – mulai dari artis, musisi, penulis lagu, hingga videografer – akan mendapat bayaran besar atau terpaksa harus hidup dengan kenyataan menyakitkan bahwa semua yang mereka publikasikan adalah hal yang baik. untuk pelatihan industri AI.
