Jangan Tutup Mata pada Masa Depan Distopian Kecerdasan Buatan
Dialihbahasakan dari tulisan Sekjen PBB António Guterres tertanggal 31 Mei 2024, “We cannot sleepwalk into a dystopian AI future.”
Beberapa bulan terakhir, kita telah menyaksikan perkembangan teknologi yang mengubah kehidupan manusia dalam hal kapabilitas dan pendayagunaan kecerdasan buatan.
Pada waktu yang bersamaan, kita menyadari risiko-risiko baru yang mengancam kehidupan manusia sebagai akibat dari penggunaan kecerdasan buatan, mulai dari penyebaran disinformasi, mass surveillance, hingga prospek senjata otonom mematikan.
Sementara itu, sistem-sistem kecerdasan buatan dikembangkan dengan minimnya pengawasan dan akuntabilitas.
Kita tak boleh menutup mata sembari berjalan menuju masa depan distopian dengan hanya segelintir orang saja yang mengendalikan segenap kesaktian AI. Atau kemungkinan yang lebih buruk, kecerdasan buatan dikontrol oleh algoritma gelap di luar jangkauan pemahaman manusia.
Kita perlu peraturan, pengamanan, dan pagar pembatas universal.
Tindakan kita saat ini akan menentukan era kita.
Pertemuan PBB Summit of the Future September mendatang merupakan representasi peluang untuk membangun fondasi tata kelola global kecerdasan buatan.
Badan Penasehat independen untuk AI yang saya susun tahun lalu telah menentukan sejumlah prioritas untuk mewujudkan kecerdasan buatan yang inklusif dan aman:
Pertama, penyusunan Panel Saintifik Internasional Kecerdasan Buatan.
Para pembuat kebijakan tak mampu menjelajahi teritori asing ini sendiri-sendiri. Mereka harus dipandu oleh pengetahuan universal, tak terbantahkan, dan termutakhir.
Kedua, kita memerlukan dialog rutin dan terstruktur tentang tata kelola AI yang menyambungkan inisiatif-inisiatif yang ada dari level nasional, regional, dan industri.
Dialog ini akan membantu kita mengidentifikasi dan mereplikasi praktik-praktik terbaik lintas batas dan sektor.
Ketiga, pengembangan etika dan standar bersama kecerdasan buatan.
Algoritma semestinya dirancang untuk mengurangi bias, mencegah diskriminasi, dan menjaga hak dan martabat dasar semua manusia.
Keselarasan standar — dan regulasi — sangat krusial bagi rintisan-rintisan di negara-negara berkembang.
Keempat, kita memerlukan komitmen finansial global untuk mendukung negara berkembang dalam mengembangkan kapasitasnya — khususnya dalam kemampuan komputasi — dan berpartisipasi dalam tata kelola kecerdasan buatan.
Kesenjangan digital tak boleh (berlanjut) menjadi kesenjangan kecerdasan buatan.
Dengan bersama-sama mengumpulkan sumber daya dan keahlian, kita bisa memanfaatkan kekuatan AI untuk mengurangi ketidaksetaraan, merealisasikan Sustainable Development Goals tanpa satu pihak pun yang tertinggal.
Kesepakatan Digital Global — yang akan diadopsi oleh para kepala negara pada pertemuan Summit of the Future September mendatang — memuat proposal-proposal konkret untuk kerjasama internasional di bidang kecerdasan buatan.
AI bisa menyelamatkan nyawa manusia, menciptakan lapangan kerja, dan mendorong kemajuan.
Mari membangun perangkat tata kelola kecerdasan buatan global yang inovatif dan inklusif — dengan hak asasi manusia, martabat manusia, dan keberdayaan manusia sebagai garda utamanya.
—
Bacaan penting:
