Hai teman-teman, selamat datang di buletin AI reguler TechCrunch. Jika Anda ingin ini masuk ke kotak masuk Anda setiap hari Rabu, daftar di sini.
Sampaikan apa yang Anda inginkan tentang inovasi AI. Tapi itu untuk dijual – atau, setidaknya, tampaknya memang demikian.
Pada awal Agustus, Google dan OpenAI menurunkan harga model pembuatan teks terbaik mereka. Google mengurangi biaya input Gemini 1.5 Flash (biaya untuk memiliki teks model) sebesar 78% dan biaya output (biaya model untuk menghasilkan teks) sebesar 71%. OpenAI, sementara itu, mengurangi setengah biaya input GPT-4o dan sepertiga biaya output.
Menurut beberapa perkiraan, biaya rata-rata persediaan – khususnya biaya menjalankan model – turun sebesar 86% per tahun. Jadi apa yang mendorong hal ini?
Salah satu alasannya adalah tidak banyak informasi mengenai cara mengurutkan berbagai jenis spesies berdasarkan potensinya.
Andy Thurai, kepala analis Constellation Research, mengatakan kepada saya: “Kami memperkirakan harga akan terus berlanjut untuk semua jenis AI jika tidak ada pembeda. Jika konsumsi tidak ada, atau jika persaingan meningkat, semua penyedia layanan ini harus agresif dengan harga mereka untuk mempertahankan pelanggan.”
John Lovelock, VP analis di Gartner, setuju dengan pemasaran itu Dan persaingan bertanggung jawab atas penekanan harga model baru-baru ini. Mereka juga menunjukkan bahwa model-model tersebut telah dijual dengan harga premium sejak awal – dengan kata lain, harga tersebut cukup tinggi untuk menutup jutaan dolar yang dihabiskan untuk melatih mereka (GPT-4 OpenAI dikatakan menelan biaya $78,4 juta) dan biaya server untuk menjalankan (ChatGPT). pada suatu waktu biaya OpenAI ~$700.000 per hari). Namun kini pusat data telah mencapai ukuran dan skala yang dapat mendukung pengurangan biaya tersebut.
Vendor, termasuk Google, Anthropic, dan OpenAI, telah mengadopsi metode seperti pemesanan dan penyimpanan cepat untuk menghemat uang. Caching cepat memungkinkan pengembang untuk menyimpan “antarmuka cepat” yang dapat digunakan kembali dalam panggilan API ke model, sekaligus mengintegrasikannya ke dalam kelas model yang paling berguna (dan selanjutnya lebih murah).
Rilisan sumber terbuka besar seperti Meta’s Llama 3 mungkin juga berdampak pada harga produk. Meskipun yang terbesar dan paling mumpuni tidak terlalu murah, mereka dapat bersaing dengan apa yang dijual oleh dealer, yang murah, jika dijalankan oleh bisnis rumahan.
Pertanyaannya adalah apakah inflasi dapat berkelanjutan.
Pengembang AI menghabiskan banyak uang dengan cepat. OpenAI diperkirakan akan mengalami kerugian sebesar $5 miliar pada tahun ini, sementara pesaingnya, Anthropic, akan mengalami kerugian sebesar $2,7 miliar pada tahun 2025.
Lovelock berpendapat kenaikan harga dan biaya tenaga kerja akan memaksa pengecer untuk mengadopsi harga baru.
“Dibandingkan dengan ratusan juta dolar yang dihabiskan untuk mengembangkan model generasi berikutnya, apa manfaatnya bagi konsumen?” dia bertanya.
Kami akan segera mengetahuinya.
Cerita
Musk mendukung SB 1047: X, CEO Tesla dan SpaceX Elon Musk datang untuk mendukung California SB 1047, sebuah undang-undang yang mengharuskan produsen model AI terbesar untuk mengembangkan dan mendokumentasikan pertahanan terhadap model yang menyebabkan masalah serius.
Mode AI berbicara bahasa Hindi dengan buruk: Ivan menulis bahwa Ikhtisar AI Google, yang memberikan jawaban yang dihasilkan AI untuk kueri penelusuran tertentu, membuat banyak kesalahan dalam bahasa Hindi – seperti mengatakan “hal-hal yang lengket” sebagai makanan musim panas.
OpenAI mendukung penandaan air AI: OpenAI, Adobe, dan Microsoft telah memberikan dukungan mereka pada rancangan undang-undang California yang mewajibkan perusahaan teknologi untuk mendaftarkan produk yang didukung AI. RUU tersebut diperkirakan akan dibahas pada pemungutan suara terakhir pada bulan Agustus, kata Max.
Infleksi menambahkan batasan pada Pi: Startup AI Infleksi, yang pendiri dan sebagian besar karyawannya dipekerjakan oleh Microsoft lima bulan lalu, ingin membatasi akses ke chatbot Pi karena perusahaan tersebut berfokus pada produk bisnis.
Stephen Wolfram tentang AI: Ron Miller mewawancarai Stephen Wolfram, pendiri Wolfram Alpha, yang mengatakan dia melihat filsafat memasuki “zaman keemasan” baru karena pertumbuhan AI dan semua pertanyaan yang muncul.
Waymo mengantar anak-anak: Waymo, sebuah perusahaan Alphabet, dikatakan sedang mempertimbangkan program berlangganan yang memungkinkan remaja untuk menyewa salah satu kendaraannya sendiri dan mengirimkan pemberitahuan penjemputan dan pengantaran kepada orang tua anak-anak tersebut.
Protes karyawan DeepMind: Beberapa karyawan di DeepMind, divisi R&D AI Google, tidak senang dengan perjanjian keamanan yang diumumkan oleh Google – dan dilaporkan telah mengirimkan surat internal untuk mengungkapkan rinciannya.
AI memicu pembelian SVP: Semakin banyak VC yang membeli saham startup di pasar sekunder, sering kali dalam bentuk sarana investasi yang disebut kendaraan khusus (SVP), ketika mereka mencoba mengakuisisi perusahaan AI yang paling populer, tulis Rebecca.
Makalah penelitian mingguan
Seperti yang telah kami tulis sebelumnya, sebagian besar tolok ukur AI tidak memberikan banyak informasi kepada kita. Sederhana saja – atau esoteris. Atau ada kekurangan yang jelas di dalamnya.
Untuk membuat evaluasi yang lebih baik terhadap model bahasa visi (VLM) khususnya (yaitu, model yang dapat memahami gambar dan teks), para peneliti di Allen Institute for AI (AI2) dan di tempat lain baru-baru ini merilis sebuah uji coba yang disebut WildVision.
WildVision memiliki platform analitik yang mencakup sekitar 20 merek, termasuk Google Gemini Pro Vision dan GPT-4o OpenAI, serta papan peringkat yang menunjukkan preferensi masyarakat terhadap media sosial dan merek.
Saat mengembangkan WildVision, peneliti AI2 mengatakan mereka menemukan bahwa VLM terbaik pun tertarik dan menderita bias dan bias internal. “Analisis komprehensif kami… menunjukkan perbaikan VLM di masa depan,” tulisnya dalam makalah yang menyertai rilis tes tersebut.
Contoh minggu ini
Ini bukan contoh biasa, tapi minggu ini, Anthropic meluncurkan fitur Artefaknya untuk semua pengguna, yang mengubah percakapan dan warna perusahaan Claude menjadi aplikasi, gambar, dasbor, halaman, dan banyak lagi.
Diluncurkan dalam pratinjau pada bulan Juni, Artefak – sekarang tersedia online gratis dan di aplikasi Anthropic Claude untuk iOS dan Android – menawarkan jendela khusus yang menampilkan apa yang Anda buat dengan Claude. Pengguna dapat mempublikasikan dan me-remix konten dengan banyak orang, sementara pelanggan paket Tim Anthropic dapat berbagi konten di lingkungan tertutup.
Beginilah cara Michael Gerstenhaber, kepala produk di Anthropic, menjelaskan Artefak kepada TechCrunch dalam sebuah wawancara: “Arsip adalah arsip yang mengesampingkan kreasi dan memungkinkan Anda, sebagai pengguna, mengulangi konten. Katakanlah Anda ingin membuat kode – artefaknya akan ditempatkan di UI, lalu Anda dapat berinteraksi dengan Claude dan mengulangi dokumen tersebut sehingga Anda dapat menjalankan kodenya.”
Perlu dicatat bahwa Poe, agregator lintas platform berbasis langganan Quora untuk model AI, termasuk Claude, memiliki fitur yang mirip dengan Artefak yang disebut Pratinjau. Namun tidak seperti Art, Pratinjau tidak gratis — Anda harus membayar $20 per bulan untuk paket premium Poe.
Ambil tas
OpenAI dapat mengaktifkan Strawberry.
Hal ini menurut The Information, yang mengatakan bahwa perusahaan sedang mencoba merilis AI baru yang dapat mengatasi masalah dengan lebih baik daripada model yang sudah ada. Strawberry – disebut Q*, yang benar-benar Anda tulis tahun lalu – dikatakan mampu menyelesaikan soal matematika dengan perangkat lunak yang belum pernah ada sebelumnya, serta teka-teki silang seperti The New York Times’ Connections.
Sisi negatifnya adalah dibutuhkan lebih banyak waktu untuk “berpikir”. Tidak jelas berapa lama dibandingkan dengan versi OpenAI terbaik saat ini, GPT-4o.
OpenAI berharap untuk meluncurkan versi lain dari versi yang dilengkapi Strawberry pada musim gugur ini, kemungkinan pada platform ChatGPT yang didukung AI. Perusahaan ini juga dikatakan menggunakan Strawberry untuk membuat data untuk aplikasi pendidikan, termasuk perusahaan besar berikutnya yang disebut Orion.
Harapan terhadap Strawberry sangat tinggi di kalangan komunitas penggemar AI. Bisakah OpenAI menemui mereka? Sulit untuk mengatakannya – tapi saya mengharapkan perubahan dalam gaya ChatGPT, setidaknya sedikit.
