Google juga menghindari visi AI-nya. Setelah banjir dunk dan meme minggu lalu, yang berkisar pada hal positif dan negatif yang datang dari mesin pencari baru bertenaga AI milik raksasa teknologi tersebut, perusahaan tersebut pada hari Kamis mengeluarkan mea culpa. Google – sebuah perusahaan yang namanya identik dengan pencarian internet – yang mereknya berfokus pada “mengatur informasi dunia” dan menyerahkannya ke tangan pengguna – menulis dalam sebuah postingan bahwa “Muncul kata-kata AI yang aneh, salah, atau tidak membantu.”
Itu secara halus.
Mengakui kegagalan, yang ditulis oleh Wakil Presiden Google dan Kepala Pencarian Liz Reid, dipandang sebagai bukti bagaimana penerapan teknologi AI dalam segala hal telah memperburuk Google Penelusuran.
Dalam postingan berjudul “Tentang minggu lalu”, (apakah ini lolos PR?), Reid menjelaskan banyak kesalahan yang dilakukan oleh Ikhtisar AI. Meskipun mereka tidak “melihat” atau menciptakan hal-hal seperti yang bisa dilakukan oleh jurusan bahasa lain (LLM), katanya, mereka dapat membuat kesalahan karena “alasan lain”, seperti “salah menafsirkan pertanyaan, salah menafsirkan bahasa online, atau tidak memiliki informasi yang cukup. “
Reid juga mengatakan bahwa beberapa gambar yang dibagikan di media sosial minggu lalu adalah palsu, sementara yang lain berisi pertanyaan konyol, seperti “Berapa banyak batu yang harus saya makan?” – sesuatu yang belum pernah diteliti oleh siapa pun. Karena hanya ada sedikit informasi tentang topik ini, Google AI memandu pengguna ke mainan tersebut. (Dalam kasus batuan, informasinya dipublikasikan di situs web penyedia perangkat lunak geologi.)
Wajar untuk mengatakan bahwa jika Anda mencari di Google, “Berapa banyak batu yang harus saya makan?” dan itu diberikan dengan tautan yang tidak berguna, atau lelucon, Anda tidak akan terkejut. Apa yang dilakukan orang-orang dengan percaya diri adalah bahwa AI menjawab “ahli geologi merekomendasikan makan satu batu kecil sehari” seolah-olah itu adalah jawaban sebenarnya. Ini mungkin bukan “perkiraan” dalam istilah teknis, tetapi pengguna tidak peduli. Ini gila.
Yang meresahkan adalah Reid mengatakan Google “menguji fitur tersebut secara ekstensif sebelum peluncuran”, termasuk “upaya tim merah yang kuat”.
Tidakkah ada orang di Google yang punya selera humor? Belum ada yang memikirkan stimulus yang bisa menimbulkan akibat negatif?
Selain itu, Google menurunkan level AI untuk mempercayai pengguna Reddit sebagai sumber informasi dan kebenaran. Meskipun orang-orang telah lama menambahkan “Reddit” ke pencarian mereka sehingga Google menjadikannya sebagai filter pencarian, Reddit bukanlah sumber informasi yang sebenarnya. Namun AI dapat menunjuk ke postingan forum Reddit untuk menjawab pertanyaan, tanpa memahami kapan pengetahuan pertama Reddit berguna dan kapan tidak – atau lebih buruk lagi, jika itu adalah troll.
Reddit saat ini menghasilkan banyak uang dengan menyediakan datanya kepada perusahaan seperti Google, OpenAI, dan lainnya untuk melatih model mereka, namun hal ini tidak berarti bahwa pengguna ingin AI Google memutuskan kapan harus mencari di Reddit untuk menjawab, atau mengatakan bahwa pendapat seseorang benar . Ada nuansa pembelajaran saat menelusuri Reddit yang masih belum dipahami oleh AI Google.
Seperti yang diakui Reid, “forum sering kali menjadi sumber pengetahuan umum, namun terkadang forum dapat menghasilkan nasihat yang tidak membantu, seperti menggunakan lem untuk membuat keju menempel pada pizza,” katanya, mengutip salah satu forum. tentang kegagalan dramatis fitur AI minggu lalu.
Ulasan Google AI menyarankan penambahan lem agar keju menempel pada pizza, dan ternyata sumbernya adalah komentar Reddit berusia 11 tahun dari pengguna F*cksmith ð pic.twitter.com/uDPAbsAKeO
â Peter Yang (@petergyang) 23 Mei 2024
Jika minggu lalu terjadi bencana, mungkin Google akan mengulanginya dengan cepat – atau memang demikian.
Perusahaan tersebut mengatakan bahwa mereka melihat contoh-contoh dari Ikhtisar AI dan mengidentifikasi bagaimana mereka dapat melakukan hal yang lebih baik, termasuk menciptakan metode deteksi yang lebih baik untuk pertanyaan-pertanyaan yang tidak berguna, mengurangi konten dan jawaban buatan pengguna yang dapat memberikan saran yang menyesatkan, dan menambahkan pembatasan untuk memicu pertanyaan-pertanyaan yang melibatkan AI. âRingkasan tidak membantu, tidak menampilkan Tips untuk AI pada topik penting, “yang mengutamakan kejelasan dan akurasi”, menambah lapisan perlindungan pada penelitian kesehatannya.
Dengan berkembangnya chatbot oleh perusahaan-perusahaan AI yang semakin hari semakin baik, pertanyaannya bukan apakah mereka akan mengalahkan Google Penelusuran dalam membantu kita memahami informasi dunia, namun apakah Google Penelusuran akan mampu dengan cepat memanfaatkan AI untuk menantang mereka. kembali.
Meskipun kesalahan Google mungkin konyol, hampir tidak mungkin untuk menghitung bahwa Google keluar dari persaingan – terutama karena banyaknya tim pengujian beta Google, yang pada dasarnya adalah setiap orang yang menggunakan pencarian.
âMemiliki jutaan orang menggunakan antarmuka dan mencari informasi sungguh tiada bandingnya,â kata Reid.
