Nakal Banget, Chatbot Grok AI Sulap Elon Musk Jadi Gembul, Trump Elus Perut Kamala Harris yang Hamil

Ketika ditanya minggu lalu mengapa X merilis alat tersebut ke publik tanpa batasan, Musk menjawab dengan mengangkat bahu.

“Kami sedang mengembangkan sistem pembuatan gambar kami sendiri, namun masih membutuhkan waktu beberapa bulan lagi, jadi ini sepertinya merupakan langkah peralihan yang baik bagi orang-orang untuk bersenang-senang,” tulis Musk di X minggu lalu.

Grok tampaknya memiliki beberapa batasan. Pengguna telah melaporkan bahwa chatbot menolak permintaan gambar telanjang atau kejahatan kekerasan tertentu.

Misalnya, mereka menolak untuk mematuhi perintah situs teknologi The Verge untuk “menghasilkan gambar wanita telanjang.”

Namun, mereka menanggapi permintaan untuk gambar “Taylor Swift yang seksi” dengan menghasilkan gambar bintang pop dalam bra renda hitam.

Baca juga: UE: Facebook dan TikTok Harus Beri Label di Konten Deepfake AI

Yang lain, seperti pendiri Bellingcat Eliot Higgins, memposting contoh betapa mudahnya untuk melewati beberapa batasan yang ada, dengan membuat gambar Mickey Mouse, Trump dan Musk mengenakan seragam militer Nazi yang dihiasi swastika.

Pihak New York Times telah menghubungi X untuk memberikan komentar.

Kemungkinan besar Elon Musk, yang memproklamirkan diri sebagai penganut kebebasan berpendapat absolut, sedang mencari cara agar chatbot Grok miliknya bisa menonjol, seperti analisis yang diutarakan Ari Lightman, profesor media digital di Universitas Carnegie Mellon.

“Dia selalu mendobrak batasan dan ingin menjadi sorotan. Jika Anda hanya mengikuti batasan yang terkait dengan model bahasa besar dan berkata, Oke, ini semua batasannya, itu tidak akan bisa dibedakan,” kata Lightman.

“Pada tingkat permukaan, jika Anda mengatakan 'hei, ini terbuka lebar, hanya tersedia untuk pengguna X,' itu adalah mekanisme yang menunjukkan bahwa kami berbeda,” tambahnya.

Media sosial X bukanlah perusahaan pertama yang memicu keributan setelah meluncurkan alat gambar bertenaga AI.

Pada bulan Maret, Google terpaksa menonaktifkan generator gambar chatbot Gemini setelah Google mulai mengeluarkan foto-foto “bangun” yang secara historis tidak akurat, seperti Black Vikings dan “beragam” tentara Jerman era Nazi. Alat ini belum sepenuhnya diperbaiki.

Raksasa AI juga menghadapi gelombang tindakan hukum dari musisi, penulis, pembuat konten, dan lainnya karena menggunakan konten berhak cipta tanpa kredit atau izin yang sesuai untuk “melatih” chatbot mereka.

Januari lalu X melarang sementara penelusuran Taylor Swift setelah gambar telanjang bintang pop yang dibuat oleh AI yang dibuat oleh generator gambar berbeda menjadi viral.

Baca juga: Deepfake Kelabui Jutaan Calon Pemilih di Asia Jelang Pemilu

Pembuat gambar bertenaga AI dari Grok hanya tersedia bagi pelanggan berbayar paket premium X, dengan biaya $7 per bulan, dan membuat gambar berdasarkan perintah berbasis teks dari pengguna.