Karlisa Priandana: Pengembangan AI Harus Utamakan Nilai Kemanusiaan

TRIBUNNEWS.COM, JAKARTA – Pengembangan kecerdasan buatan (AI) harus senantiasa berpijak pada nilai-nilai kemanusiaan.

Hal ini ditegaskan oleh Dr. Karlisa Priandana, S.T., M.Eng., Plt. Direktur Bina Talenta Penelitian dan Pengembangan, Kemendikbud Ristek saat talkshow  Nasional Artificial Intelligence bertajuk The Future Impact of Artificial Intelligence yang diselenggarakan Universitas Bunda Mulia (UBM) di Kampus Serpong, Banten, Kamis (24/5/2025).

“AI harus menjadi alat bantu, bukan pengganti manusia. Fokusnya adalah memperkuat kapasitas manusia, bukan menghilangkannya,” ujar Dr. Karlisa.

Baca juga: Pemerintah Dorong Penggunaan AI Hadapi Tantangan Dunia Digital

Ia memaparkan tujuh prinsip etis dalam pengembangan AI yang patut dipegang teguh, mulai dari pentingnya sistem human-in-the-loop, keadilan algoritmik, transparansi, akuntabilitas, privasi data, hingga regulasi yang inklusif.

"Prinsip-prinsip tersebut, menurutnya, akan menjadi pondasi untuk menciptakan teknologi yang bukan hanya canggih, tetapi juga berkeadilan sosial," katanya.

AI dan Pembangunan Kota Cerdas

Seminar juga menghadirkan Adhiguna Mahendra, M.Sc., M.Eng., Direktur Data dan Kecerdasan Buatan dari Otorita Ibu Kota Nusantara (OIKN).

Dalam pemaparannya, Adhiguna menegaskan bahwa AI kini telah menjadi komponen utama dalam visi pembangunan IKN sebagai kota pintar (smart city) masa depan.

“AI bukan lagi sekadar alat untuk membuat gambar atau video buatan," katanya.

Saat ini, kata dia AI digunakan untuk membangun sistem transportasi otonom, layanan kesehatan prediktif, serta pengelolaan lingkungan yang lebih cerdas dan efisien.

"Kota masa depan menuntut sistem yang tidak hanya berbasis data, tetapi juga mampu merespons tantangan urbanisasi dan perubahan iklim dengan solusi yang adaptif," katanya.

Teknologi Autonomous Agents dan Peran LLM

Sementara itu, Prof. Bo An, Kepala Divisi Kecerdasan Buatan di Nanyang Technological University (NTU) Singapura, memaparkan strategi pengembangan Autonomous Agents, yakni agen cerdas yang mampu mengambil keputusan mandiri di lingkungan yang kompleks dan dinamis.

Ia menjelaskan bahwa teknologi ini bergantung pada tiga pendekatan utama yakni algoritma optimasi untuk penyelesaian masalah skala kecil secara efisien;  reinforcement Learning (RL) untuk skenario dinamis dan spesifik dan  Large Language Models (LLMs) seperti Chat GPT yang mampu merespons masalah secara fleksibel dalam konteks luas.

Baca juga: Kemenkum Pastikan Revisi UU Hak Cipta Bakal Atur Soal Royalti Musik Hingga Penggunaan AI

“Ketiga pendekatan ini saling melengkapi dalam membangun sistem AI yang adaptif, otonom, dan siap menghadapi tantangan nyata di berbagai sektor,” ujar Prof. Bo An.