Kecerdasan Buatan Semakin Canggih, Diprediksi Beralih dari AI ke AGI

Tayang: Senin, 27 Maret 2023 00:00 WIB

Bahkan ada yang memprediksi bahwa AGI dapat digunakan untuk memerintahkan prajurit manusia dalam perang.

Dalam sebuah makalah, Robert Sparrow dari Monash University dan Adam Henschke dari University of Twente menyebutkan karena skenario perang seperti itu mungkin terjadi, muncul kekhawatiran etis apakah AI harus diberi wewenang untuk mengirim manusia ke potensi kematian mereka.

"Akhirnya, mengejar kemenangan mungkin membutuhkan penyerahan komando ke mesin dan kemenangan dapat ditentukan oleh kekuatan mana yang memiliki AI yang lebih baik," katanya.

Bagaimana mencegah AGI lepas kendali?

Profesor Paul Salmon dari Queensland's University of the Sunshine Coast setuju bahwa AGI menimbulkan risiko eksistensial bagi manusia. Ia menyarankan kita bertindak sekarang agar siap untuk kedatangan AGI, meskipun beberapa dekade lagi.

"Jika kita baru mulai mengkhawatirkan AGI saat sudah muncul, itu sudah terlambat," katanya.

"Kita perlu memahami bagaimana merancang AGI agar aman, etis, dan dapat digunakan. Bagaimana mengelola risiko dan bagaimana mengendalikannya," ujar Prof Salmon.

Dalam posting blognya bulan lalu, Sam Altman dari OpenAI memaparkan rencana perusahaannya untuk pengembangan AGI.

Dia mengatakan OpenAI semakin berhati-hati dengan merilis model AI-nya saat AGI semakin dekat.

Perusahaannya, katanya, memiliki klausul tentang membantu organisasi lain meningkatkan keselamatan daripada berlomba dengan mereka dalam pengembangan AGI tahap akhir.

Menurut Sam Altman, OpenAI yang terdiri dari anak-anak perusahaan nirlaba, memiliki batas pengembalian sehingga perusahaan selalu terikat dengan risiko menyebarkan sesuatu yang berpotensi berbahaya.

Menteri industri dan sains Australia, Ed Husic, mengatakan pihaknya telah meminta Dewan Sains dan Teknologi Nasional untuk mempertimbangkan pengembangan AI, memikirkan implikasinya dan bagaimana pemerintah harus merespons.