Beda Pandangan Microsoft dan ChatGPT Soal AI: Satu Bilang Menjanjikan, Satu Bilang Heran

Pengungkapan itu muncul dalam episode terbaru podcast OpenAI

"Orang-orang memiliki tingkat kepercayaan yang sangat tinggi pada ChatGPT, yang menarik karena AI berhalusinasi. Seharusnya itu adalah teknologi yang tidak terlalu Anda percayai," kata Altman, dikutip dari The Economic Times.

Komentar Altman muncul pada saat AI tertanam dalam hampir setiap aspek kehidupan sehari-hari.

Namun peringatannya berakar pada kelemahan utama model bahasa saat ini: halusinasi.

Dalam istilah AI, halusinasi merujuk pada momen ketika model seperti ChatGPT memalsukan informasi.

Ini bukan sekadar kesalahan yang tidak berbahaya; terkadang, halusinasi tampak sangat akurat, terutama ketika model mencoba memenuhi permintaan pengguna, bahkan dengan mengorbankan integritas fakta.

"Anda dapat memintanya untuk mendefinisikan istilah yang tidak ada, dan model akan dengan yakin memberikan penjelasan yang dibuat dengan baik tetapi salah," Altman memperingatkan.

Ini bukan masalah yang terisolasi — OpenAI sebelumnya telah meluncurkan pembaruan untuk mengurangi apa yang disebut sebagian orang sebagai "kecenderungan menjilat" alat tersebut, yang cenderung setuju dengan pengguna atau menghasilkan informasi yang menyenangkan tetapi salah.

Yang membuat halusinasi sangat berbahaya adalah sifatnya yang samar.

Halusinasi jarang menimbulkan tanda bahaya, dan kecuali pengguna benar-benar memahami topiknya, akan sulit membedakan antara kebenaran dan fiksi yang dibuat oleh AI.

Baca juga: Senat AS Cabut Larangan Regulasi AI dari RUU yang Diajukan Trump

Ketidakjelasan itulah yang menjadi inti peringatan Altman.

Laporan terkini bahkan mendokumentasikan kasus yang meresahkan, di mana ChatGPT diduga meyakinkan pengguna bahwa mereka terjebak dalam simulasi mirip Matrix, yang mendorong perilaku ekstrem untuk "melarikan diri".

Meskipun jarang terjadi dan sering kali bersifat anekdot, kejadian seperti itu menunjukkan pengaruh psikologis yang dapat ditimbulkan oleh alat ini ketika digunakan tanpa pengawasan kritis.

(Tribunnews.com/Whiesa)