Google Tanggapi Laporan Mesin Pencarian AI yang Berhalusinasi, Sarankan Menambahkan Lem ke Pizza

Sejumlah ahli khawatir bahwa seiring semakin kompleksnya sistem AI generatif, sistem-sistem ini juga menjadi semakin rentan terhadap kesalahan—bahkan para pembuatnya pun tidak selalu dapat menjelaskan penyebabnya.

Kekhawatiran terkait halusinasi AI tidak hanya menimpa Google.

OpenAI baru-baru ini mengakui bahwa dua model terbarunya, yang dikenal sebagai o3 dan o4-mini, menunjukkan kecenderungan halusinasi yang lebih tinggi dibanding versi sebelumnya.

Dalam pengujian internal, terungkap bahwa model terbaru o3 dan o4-mini menjadi korban halusinasi yang lebih parah dibandingkan model sebelumnya.

Dalam statistik yang muncul sebagai yang terburuk dari sebelumnya, tingkat halusinasi o3 adalah 33% ketika pertanyaan terkait dengan orang sungguhan dan fakta tersedia.

o4-mini memberikan gambaran yang lebih buruk dengan 48% halusinasi, yang berarti bahwa model tersebut tidak hanya memberikan informasi palsu tetapi juga data imajiner.

(Tribunnews.com, Tiara Shelavie)