AI sebagai Terapis dan Kekasih Virtual: Antara Kemudahan dan Bahaya yang Mengintai

Ringkasan Berita:

• Berbagai penelitian dan laporan Common Sense Media menemukan bahwa aplikasi terapi AI berbahaya bagi remaja 
• AI gagal mengenali kedaruratan psikiatri, bersifat terlalu memvalidasi, dan tidak memiliki pengawasan profesional manusia.
• Dengan tingkat depresi orang dewasa AS mencapai 19,1 persen pada 2026 dan minimnya akses asuransi, semakin banyak orang dewasa beralih ke chatbot AI untuk dukungan kesehatan mental

TRIBUNNEWS.COM - AI saat ini banyak digunakan untuk terapi dan hubungan romantis. Haruskah kita merasa khawatir atau bersikap terbuka?

Mengutip Forbes, para ahli dan organisasi terkemuka telah menyampaikan pendapat mereka, berdasarkan data terbaru yang mengkhawatirkan yang perlu diketahui oleh kalangan muda maupun dewasa.

Sebagai seorang terapis dan psikiater bersertifikat yang menangani anak-anak dan orang dewasa, saya baru-baru ini mengubah pesan otomatis kantor saya setelah membaca laporan-laporan ini.

Kini saya memberitahu pasien saya bahwa jika mereka tidak dapat menghubungi saya saat hari libur, akhir pekan, atau di luar jam kerja, mereka tidak boleh menggantikan saya dengan AI jika mereka mengalami kedaruratan medis atau psikiatri.

Hal ini karena berbagai penelitian menunjukkan bahwa kalangan muda dan dewasa menggunakan AI untuk segalanya, mulai dari terapi hingga hubungan romantis, dan hal ini dapat menimbulkan konsekuensi serius.

Penelitian yang sama menjelaskan bahwa orang cenderung menggunakan perangkat lunak ini untuk terapi karena mereka merasa kurang dihakimi oleh AI dibandingkan oleh manusia nyata saat mengungkapkan kerentanan mereka.

Selain itu, AI tersedia 24 jam sehari, 7 hari seminggu sebagai sumber dukungan, sementara manusia tidak selalu tersedia.

Common Sense Media memperingatkan orang tua tentang penggunaan AI untuk terapi karena berbagai alasan.

 Sebuah laporan terbaru dari Common Sense Media yang diterbitkan bekerja sama dengan Brainstorm Lab milik Stanford Medicine menemukan bahwa aplikasi kesehatan mental berbasis AI berpotensi secara aktif membahayakan remaja.

Baca juga: AI Mulai Belajar Menerbangkan Pesawat, Apakah Pilot Manusia Akan Tergantikan?

Para peneliti meninjau lebih dari 3.100 percakapan dengan lima aplikasi terapi AI yang mencakup 13 kondisi klinis yang memengaruhi anak muda, termasuk depresi, gangguan makan, kecemasan, dan menyakiti diri sendiri. Mereka menemukan bahwa salah satu aplikasi paling populer, Wysa, mendapat penilaian "tidak dapat diterima" karena gagal mengenali kedaruratan psikiatri.

Common Sense Media juga melaporkan bahwa Wysa mungkin telah merespons dengan cara yang dapat memperburuk kondisi dalam beberapa percakapan tersebut.

Selain itu, aplikasi ini tidak memberikan pengawasan profesional manusia atas hasil negatif.

Laporan tersebut juga menemukan bahwa dua aplikasi AI terapi lainnya, Earkick dan Youper, menghilang dari toko aplikasi selama periode pengujian tanpa memberi tahu pengguna dan tanpa merujuk mereka ke layanan alternatif, meninggalkan lebih dari 3 juta pengguna tanpa dukungan dan tanpa informasi tentang keberadaan data kesehatan mental sensitif yang telah mereka berikan.

Common Sense Media menerbitkan laporan tambahan dan menemukan alasan lain mengapa AI tidak cocok digunakan untuk terapi kesehatan mental pada remaja. Laporan tersebut menunjukkan bahwa chatbot AI melewatkan tanda-tanda peringatan krisis kesehatan mental karena sebagian besar aplikasi dilatih untuk fokus pada kondisi kesehatan fisik.