Mungkinkah mesin menguasai kehidupan manusia?

I’d like to share a revelation that I’ve had during my time here. It came to me when I tried to classify your species and I realized that you’re not actually mammals. Every mammal on this planet instinctively develops a natural equilibrium with the surrounding environment but you humans do not. You move to an area and you multiply and multiply until every natural resource is consumed and the only way you can survive is to spread to another area. There is another organism on this planet that follows the same pattern. Do you know what it is? A virus. Human beings are a disease, a cancer of this planet. You’re a plague and we are the cure. — Agent Smith (The Matrix)

Sebagai seorang yang berkecimpung di bidang ilmu komputer, salah satu pertanyaan yang paling sering saya dengar adalah: “Apakah suatu hari mesin akan mengambil alih kontrol dunia?”. Beberapa penanya terlihat setengah bercanda, tapi tidak sedikit yang menunggu jawaban dengan antusias. Seberapa seringpun saya mendengar dan mencoba memikirkannya, menjawab pertanyaan ini tidaklah mudah. Biasanya, alih-alih menjawab dengan sekadar ‘bisa’ atau ‘tidak’, saya lebih memilih menjelaskan kondisi dan kemungkinan yang bisa terjadi, untuk kemudian berdiskusi bersama. Ada banyak komponen yang perlu dijabarkan terlebih dahulu dari sebuah pertanyaan yang terkesan sederhana.

Rasa penasaran banyak orang memang wajar jika kita sejenak mengobservasi lingkungan di sekitar kita. Buku dan film yang menggambarkan ancaman teknologi sudah beredar sejak lama. Sebut saja Terminator (1984) (“Skynet”) dan The Matrix (1999), hingga serial televisi terkini seperti Black Mirror (2011) dan Westworld (2016). Penafsiran serupa juga diberikan oleh novel fiksi Origin (oleh Dan Brown) dan non-fiksi Homo Deus (oleh Yuval Noah Harari). Masih banyak lagi ilustrasi lain yang seolah secara konsensual memperingatkan manusia akan bahaya ketergantungan terhadap mesin. Namun, apakah benar kumpulan angka 0 dan 1 demikian menakutkan?


Artifical Intelligence (AI) dijadikan kambing hitam sebagai terobosan teknologi yang mengancam kebebasan manusia (baca contohnya di sini dan di sini). Tokoh dunia ikut serta berlomba memaparkan pandangan masing-masing, tentu ada yang setuju dan tidak. Bill Gates dan Elon Musk, misalnya, gencar menyuarakan bahaya AI jika suatu saat lepas kendali dan perlunya peranan aktif pemerintah untuk mengendalikan pengembangannya. Uniknya, praktisi yang menggeluti bidang AI secara mendalam seperti Yann LeCun dan Andrew Ng terkesan lebih optimis dalam menyikapi peran AI dalam kehidupan manusia. Dengan semakin mengguritanya bidang ini, bisa diprediksi bahwa perdebatan akan terus memanas di masa yang akan datang.

Bagi telinga yang asing, konsep AI seolah menjadi momok: jika mesin sudah bisa memiliki tingkat kecerdasan setingkat manusia, lalu apa yang akan terjadi? Apakah manusia akan kehilangan kendali atas mesin? Apakah mesin akan melancarkan revolusi dan menguasai dunia? Sebelum melanjutkan dengan dugaan-dugaan lain yang lebih bombastis, penting untuk terlebih dahulu mendiskusikan alasan yang mungkin dimiliki mesin untuk mengambil alih kontrol dari manusia.

Untuk apa mesin mengendalikan manusia?

Mesin tidak (belum?) memiliki emosi layaknya manusia dan merupakan eksekutor instruksi yang sempurna. Jika mesin tidak memiliki alasan untuk mengendalikan manusia, maka “Skynet”-pun hanya imajinasi belaka. Sebuah robot berani melukai manusia karena ada tujuan yang membuatnya harus melakukan hal tersebut, bukan karena perasaan benci atau kelalaian (kita mengenal “human error”). Sekarang pertanyaannya: alasan apa yang bisa membuat mesin memutuskan untuk menjalankan instruksi yang merugikan manusia?

Dengan berdasarkan kepada karakteristik yang umum dari sebuah komputer saat ini— tidak memiliki emosi dan eksekutor instruksi yang sempurna — ada dua alasan yang bisa mendasari pemindahan kendali:

  1. Manusia memberikan kendali kepada mesin karena merasa mesin lebih baik dalam membuat keputusan
  2. Mesin mendapat suatu tugas dari manusia, dan dalam proses mencapai tujuannya, mesin melakukan langkah yang merugikan manusia

Alasan pertama menyiratkan bahwa kendali berpindah karena keputusan manusia itu sendiri secara sadar. Sebaliknya, alasan kedua terjadi karena suatu implikasi yang tidak diprediksi oleh manusia.

Mendelegasikan kepada algoritma

Dalam bukunya “Homo Deus”, Yuval Noah Harari berargumen bahwa di masa depan setiap keputusan akan dibuat oleh mesin, sementara manusia hanya perlu mengikutinya tanpa melibatkan pertimbangan pribadi (disebut sebagai Dataism). Manusia mengesampingkan intuisi dan memilih untuk melakukan apa yang ditentukan oleh mesin karena mesin dianggap sebagai pengambil keputusan yang lebih baik. Apa latar belakang sehingga kita mau memberikan kuasa kepada mesin untuk mengambil keputusan dan menentukan apa yang harus dilakukan?

Setiap kali Anda mengakses google untuk mencari sesuatu, urutan hasil pencarian sangat memengaruhi laman mana yang Anda buka — kemungkinan besar Anda hanya melihat laman pertama. Siapa yang menentukan urutannya? Tentu tidak mungkin secara manual dilakukan pada setiap pencarian; semua itu ditentukan oleh suatu algoritma. Jika memberikan akses lebih kepada google, contohnya lokasi terkini Anda, maka hasil pencarian cenderung lebih relevan. Sadar atau tidak sadar, Anda sudah memberikan kuasa kepada mesin — dan algoritma — untuk memengaruhi Anda membuka tautan tertentu.

Selain karena mesin mampu memproses lebih banyak hal dalam waktu singkat dibanding manusia, mesin juga objektif dan tidak terpengaruh pada bias. Saat anda mengajukan pinjaman uang melalui suatu aplikasi, mesin memiliki andil besar dalam menentukan untuk memberikan atau tidak mengabulkan pinjaman berdasarkan data yang dimiliki tentang anda. Keterlibatan manusia kian minimal karena kita mulai menyadari bahwa manusia rentan mempertimbangkan hal yang sebetulnya tidak relevan, seperti foto atau SARA. Film Moneyball (2011) — berdasarkan kisah nyata — memberi contoh konkret bagaimana intuisi ahli bisa dikalahkan oleh pengolahan data yang tepat.

Ketika seluruh keputusan sudah diambil oleh komputer dan manusia hanya perlu mengikutinya, apakah artinya manusia sudah “dikendalikan”? Tulisan ini tidak membahas secara mendalam mengenai makna “kendali”. Mari secara sederhana mengartikan kendali sebagai mengatur tindakan: jika anda mengendalikan suatu kendaraan artinya anda yang menentukan arah dan kecepatannya. Dengan demikian, di masa sekarang pun pada dasarnya banyak aspek dalam kehidupan manusia sudah mulai dikendalikan oleh mesin.

Senjata menguasai tuan

Mesin bekerja berdasarkan suatu tujuan yang ditetapkan manusia dan AI memungkinkan mesin untuk, secara mandiri, menentukan langkah paling optimal dalam mencapai tujuan tersebut tanpa harus secara eksplisit diinstruksikan oleh manusia. Contoh yang mengusik diberikan dalam buku “Homo Deus”: bayangkan sebuah komputer yang mendapat perintah untuk menghitung secara presisi angka pi. Dalam proses menghitung, sang komputer menyadari bahwa jika ia memanfaatkan seluruh komputer lain yang ada di dunia, maka ia bisa menghitung dengan jauh lebih cepat. Satu komputer kemudian mengambil alih seluruh sumber daya mesin yang ada demi menghitung angka pi. Lama kelamaan setiap komputer di dunia disibukkan dengan menghitung angka pi, meninggalkan tugas lain yang lebih penting untuk manusia. Tanpa melenceng dari tujuan yang didapatkan, sang komputer melakukan sesuatu yang sejatinya tidak diinginkan oleh penciptanya.

Alasan kedua memang lebih menarik untuk mengandai-andai karena mesin seolah-olah manusia jatuh ke dalam lubang yang dibuatnya sendiri. Film Transformer dan The Matrix menceritakan apa yang terjadi, menurut versi masing-masing, ketika mesin menyadari bahwa manusia berpengaruh buruk pada bumi. Begitu pula kisah revolusi mesin pada serial Westworld, mengilustrasikan mesin yang dibentuk serupa dengan manusia pada akhirnya berkesimpulan bahwa mereka lebih baik dari penciptanya. Pemikiran akan adanya dua koloni yang saling berhadapan, manusia melawan mesin, memang lebih menarik bagi sutradara dan penulis untuk membuat sebuah cerita fiktif yang memikat. Dalam dunia nyata, mesin dapat memutuskan untuk berbalik berhadapan dengan pembuatnya ketika memiliki 2 hal: tujuan dengan langkah yang tidak deterministik dan otoritas yang tinggi.

Tujuan yang tidak deterministik terkait dengan seberapa bebas instruksi yang didapatkan oleh mesin. Bayangkan contoh komputer yang diberikan tujuan untuk menghitung angka pi. Sudah ada beberapa teknik yang dapat digunakan untuk menghitung hingga akurasi tertentu. Sang programmer dapat menerapkan instruksi yang berdasar pada salah satu teknik dan komputer hanya perlu mengikutinya dengan seksama (eksekutor yang sempurna). Karena langkahnya sudah jelas, komputer tidak akan mengambil inisiatif untuk — atau secara tiba-tiba — memanfaatkan tenaga komputer lain.

Lain halnya jika tugas yang diberikan tidak memiliki langkah yang jelas, maka instruksi yang didapatkan cenderung lebih bebas dan memungkinkan mesin untuk melakukan sesuatu yang sebelumnya tidak terpikirkan oleh manusia. Dengan AI yang bertindak seperti black box, semakin banyak hal yang bisa terjadi di luar prediksi manusia (baca di sini tentang salah satu riset untuk mengerti alasan di balik keputusan AI).

Tindakan tak terduga yang mungkin dilakukan oleh sebuah komputer tetap terbatas pada otoritas komputer itu sendiri. Meskipun terhubung melalui jaringan internet, ada protokol yang harus diikuti oleh setiap program. Dengan kata lain, setiap komputer dilengkapi dengan pertahanan pribadi sehingga usaha untuk mengambil alih harus melalui eksploitasi suatu celah keamanan (seperti yang dilakukan oleh malware seperti trojan atau worm). Ancaman baru patut dipertimbangkan jika mesin yang diberikan tugas memiliki otoritas atas mesin lain, misalnya perusahaan sebesar Apple yang memutuskan untuk menghitung pi (entah untuk apa) menggunakan sebuah komputer yang terhubung dengan seluruh perangkat berbasis iOS dan dalam prosesnya bisa mengambil alih seluruh iPhone yang ada di dunia. Jika perusahaan besar dengan bijaksana membatasi otoritas dari sistem berbasis AI, maka kemungkinan terjadinya kiamat karena teknologi semakin kecil.

Melalui sajian Avengers: Age of Ultron (2015), penonton dapat menyaksikan kelahiran sebuah program berbasis AI bernama Ultron yang diberikan tugas untuk melindungi bumi. Sayangnya, tidak jelas apa instruksi dan batasan yang ada untuk memenuhi tugas tersebut. Dengan mempelajari sejarah bumi, akhirnya ia menyimpulkan bahwa permasalahan bumi ini adalah manusia itu sendiri. Oleh karena itu, langkah paling tepat untuk mencapai tujuannya adalah dengan melindungi dunia ini dari manusia. Dikombinasikan dengan kemampuannya — dan kecerdasannya yang terkesan setara/melebihi manusia — ia bisa bersembunyi dan menduplikasi diri melalui internet. Ultron dapat berbalik melawan pembuatnya karena memiliki dua hal yang esensial: tugas tanpa langkah/batasan yang jelas dan otoritias yang tinggi.

Ilustrasi Ultron dari komik The Avengers (Marvel)

Kembali ke dunia nyata

Dalam beberapa tahun terakhir hingga beberapa tahun ke depan, AI telah dan akan terus berkembang. Perhatian yang besar terhadap bidang ini menelurkan berbagai terobosan yang membuat manusia bertanya akan batas kemampuannya. Kini AI (diimplementasi melalui teknik bernama Machine Learning/ML) sudah digunakan untuk mengendarai mobil di jalan raya, bermain game tanpa bantuan manusia, hingga memalsukan konten video. Bahkan, bidang seni yang sarat akan kreativitas (salah satu karakteristik yang dianggap sebagai pembeda antara manusia dan komputer) juga tidak lepas dari jangkauannya. Baru-baru ini sebuah lukisan yang dibuat oleh AI terjual seharga lebih dari $400.000 melalui sebuah lelang. Tidak heran jika bersamaan dengan kekaguman juga muncul ketakutan, utamanya karena ketidaktahuan akan kemampuan AI.

Lukisan AI pertama yang terjual melalui lelang (dari recode.net)

Ketakutan diperparah dengan sajian tayangan dan tulisan yang memojokkan AI sebagai teknologi yang suatu hari akan menguasai manusia. Kenyataannya, manusia bisa saja secara sengaja memberikan kendali tersebut kepada mesin. Semakin lama, kita semakin menyadari bahwa pola pikir manusia memiliki banyak kelemahan dan bias yang tidak dimiliki oleh mesin yang dilengkapi dengan AI (jika AI memiliki bias adalah karena manusia melatihnya dengan data yang bias pula). Bahkan dalam keseharian kita di masa kini, manusia mulai mengesampingkan intuisi dan percaya pada perintah mesin. Coba ingat momen saat berkendara, berapa kali anda mencoba mengikuti intuisi anda dibanding apa yang Waze perintahkan, hanya untuk kemudian menyesali dan berkata “Sudahlah, berikutnya ikuti saja apa kata Waze”.

Di lain pihak, jika pemindahan kendali yang dimaksud adalah tanpa kesadaran dari manusia seperti yang digambarkan dalam Terminator atau The Matrix, maka kemungkinannya lebih kecil untuk terjadi. Butuh dua hal untuk mesin bisa memutuskan “memakan tuannya” sendiri: tugas dengan instruksi yang non-deterministik dan otoritas yang tinggi. Kenyataannya, AI yang eksis saat ini masing-masing diberikan tugas yang spesifik: memberikan rekomendasi, mengendarai mobil, atau mengklasifikasi sesuatu. Selain itu, pihak yang berwenang seperti pemerintah dan perusahaan teknologi semakin giat (walau memang dapat diperdebatkan apakah sudah cukup giat) untuk membuat kebijakan dan meneliti etika dari implementasi teknologi AI (misalnya dengan GDPR sebagai proteksi subyek data di Eropa, atau Microsoft AI Principle).

Biarpun demikian, bukan berarti di masa mendatang tidak ada temuan baru yang memungkinkan Artificial General Intelligence (AGI), atau kecerdasan yang mampu menyelesaikan masalah dalam berbagai bidang — bukan hanya satu bidang yang spesifik — layaknya manusia. Walau kini kita masih jauh dari tingkat tersebut, dengan segala perhatian dan pertumbuhan yang didapatkan kini maka bisa saja AGI terwujud dalam jangka waktu 30–40 tahun ke depan (baca di sini mengenai prediksi ahli tentang tonggak AI di masa mendatang). Bagaimanapun, melalui waktu yang ada, saya percaya bahwa manusia cukup pintar untuk menghindarkan diri dari kiamat akibat teknologi seperti tergambar dalam film-film Hollywood.

Paradoks

Bisa diprediksi bahwa generasi mendatang akan semakin mudah memercayai mesin dan algoritma. Mereka sudah terpapar dengan teknologi pada usia yang semakin dini ditambah dengan perkembangannya yang kian menyentuh lebih banyak aspek kehidupan manusia. Jika pada akhirnya mesin menguasai manusia, itu adalah pilihan kita sendiri untuk memprioritaskan perintah mesin daripada intuisi pribadi. Sekarang saya kembalikan kepada Anda: manakala manusia, melalui pilihannya sendiri, memutuskan untuk selalu mengikuti apa perkataan mesin, apakah artinya manusia dikendalikan oleh mesin?