Google Tanggapi Laporan Mesin Pencarian AI yang Berhalusinasi, Sarankan Menambahkan Lem ke Pizza

Bukannya mengarahkan pengguna langsung ke situs web tertentu, AI Overviews merangkum informasi dari hasil pencarian dan menyajikan jawaban yang dihasilkan AI, lengkap dengan beberapa tautan pendukung.

Laurence O’Toole, pendiri firma analitik Authoritas, meneliti dampak tool ini dan menemukan bahwa rasio klik-tayang ke situs web penerbit menurun hingga 40 persen–60 persen saat AI Overviews muncul.

Seorang juru bicara Google menanggapi:

"Cerita ini menarik kesimpulan yang sangat tidak akurat dan menyesatkan tentang AI Overviews berdasarkan contoh dari lebih dari setahun yang lalu," kata juru bicara Google kepada The New York Post.

"Kami memiliki bukti langsung bahwa AI Overviews membuat pengalaman Penelusuran menjadi lebih baik, dan orang-orang lebih menyukai Penelusuran dengan AI Overviews."

"Kami memiliki standar kualitas yang sangat tinggi untuk semua fitur Penelusuran, dan sebagian besar Ringkasan AI akurat dan bermanfaat."

Meski menuai kekhawatiran publik, CEO Google Sundar Pichai membela AI Overviews dalam sebuah wawancara dengan The Verge.

Ia menyatakan bahwa fitur tersebut membantu pengguna menemukan sumber informasi yang lebih beragam.

“Selama setahun terakhir, kami melihat bahwa jangkauan topik yang bisa kami tangani terus bertambah. Kami secara jelas mengarahkan traffic ke lebih banyak sumber dan penerbit,” ujarnya.

Namun, Google tampaknya meremehkan tingkat halusinasi pada sistemnya sendiri.

Baca juga: Ilmuwan Komputer Amerika: AI Akan Sapu Bersih 98,8 Persen Populasi Manusia pada Tahun 2300

Saat seorang jurnalis mencari informasi di Google tentang seberapa sering AI-nya melakukan kesalahan, AI mengklaim tingkat halusinasi hanya berkisar antara 0,7 persen hingga 1,3%.

Padahal, data dari platform pemantauan AI Hugging Face menunjukkan bahwa tingkat sebenarnya untuk model Gemini terbaru mencapai 1,8%.

Model AI Google juga tampaknya memberikan pembelaan otomatis terhadap tindakannya sendiri.

Ketika ditanya apakah AI “mencuri” karya seni, sistem tersebut menjawab bahwa AI tidak mencuri karya seni dalam pengertian tradisional.

Saat ditanya apakah manusia harus takut pada AI, alat itu menjelaskan beberapa kekhawatiran umum sebelum menyimpulkan bahwa rasa takut tersebut kemungkinan berlebihan.