Apa perbedaan antara AGI, transformative AI, dan superintelligence?

Enlik Lee
AI Safety Indonesia
3 min readDec 17, 2023

--

Diterjemahkan ke bahasa Indonesia dari artikel asli berbahasa inggris What are the differences between AGI, transformative AI, and superintelligence?

image source: https://levity.ai/blog/general-ai-vs-narrow-ai

Semua istilah ini merupakan upaya terkait untuk mendefinisikan tonggak kemampuan AI — secara kasar, “titik di mana AI menjadi benar-benar pintar” — tetapi memiliki arti yang berbeda:

  • AGI adalah singkatan dari “Artificial General Intelligence dan mengacu pada program AI yang tidak hanya terampil dalam berbagai tugas (seperti permainan papan atau mengemudi) namun juga dapat menerapkan kecerdasannya pada berbagai bidang yang sama seperti manusia. Beberapa sistem panggilan seperti Gato AGI karena mereka menyelesaikan banyak tugas dengan model yang sama. Namun, istilah ini lebih sering digunakan untuk sistem yang setidaknya memiliki kompetensi umum setingkat manusia, sehingga AGI biasanya masih dipandang sebagai tujuan masa depan. [1]
  • Transformative AI adalah AI apa pun yang cukup kuat untuk mentransformasi masyarakat kita. (Istilah ini tidak ada hubungannya dengan arsitektur transformator.) Holden Karnofsky telah mendefinisikannya memerlukan dampak yang setidaknya sama besarnya dengan revolusi pertanian atau industri, yang berarti setidaknya sepuluh kali lipat peningkatan laju pertumbuhan ekonomi. Laporan Ajeya Cotra menyebutkan “profesional virtual”, yaitu program yang dapat melakukan sebagian besar pekerjaan jarak jauh, sebagai contoh sistem yang akan berdampak seperti itu.
  • Superintelligence didefinisikan oleh Nick Bostrom sebagai “kecerdasan apa pun yang jauh melebihi kinerja kognitif manusia di hampir semua bidang minat”. Sejauh ini, ini adalah batasan tertinggi dari semua konsep yang tercantum di sini, namun mungkin akan terlampaui dalam waktu singkat setelah konsep lainnya, misalnya. karena ledakan kecerdasan.

Istilah lain yang terkadang digunakan antara lain:

  • AI Tingkat Lanjut adalah AI apa pun yang jauh lebih canggih daripada AI saat ini: istilah ini terkadang digunakan sebagai pengganti konsep lain di sini.
  • AI Tingkat Manusia adalah AI apa pun yang dapat menyelesaikan sebagian besar masalah kognitif yang rata-rata dapat diselesaikan oleh manusia. AI saat ini memiliki profil kekuatan dan kelemahan yang sangat berbeda dengan manusia, dan hal ini mungkin berlaku untuk AI di masa depan: sebelum AI setidaknya berada pada level manusia dalam semua tugas, AI mungkin akan menjadi manusia super dalam beberapa tugas penting namun masih lebih lemah dalam tugas lainnya.
  • Strong AI didefinisikan oleh John Searle sebagai tesis filosofis bahwa program komputer dapat memiliki “pikiran dalam arti yang persis sama dengan yang dimiliki manusia”, tetapi istilah ini kadang-kadang digunakan di luar konteks ini karena kurang lebih dapat dipertukarkan dengan “AGI” atau “AI Tingkat Manusia”.
  • Seed AI adalah AI apa pun yang memiliki kemampuan pemrograman AI yang cukup untuk memulai proses pengembangan diri secara rekursif yang membawanya hingga mencapai superintelligence. Seperti halnya PASTA di bawah ini, AI mungkin tidak harus memenuhi syarat sebagai AGI untuk dapat menimbulkan dampak yang tiba-tiba dan berbahaya dengan cara ini.
  • Tes Turing model berarti AI mana pun yang cukup pintar untuk membodohi hakim manusia agar menganggapnya manusia. Tingkat kemampuan yang dibutuhkan bergantung pada seberapa intens pengawasan yang dilakukan: language model saat ini dilatih untuk meniru teks manusia sudah bisa terlihat seperti manusia bagi pengamat biasa, meskipun tidak memiliki kecerdasan setingkat manusia secara umum. Di sisi lain, meniru suatu kecerdasan bisa lebih sulit daripada mengunggulinya, sehingga AI yang lebih pintar dari manusia juga mungkin gagal dalam uji Turing.
  • APS-AI adalah istilah yang diperkenalkan oleh Joe Carlsmith dalam laporannya tentang risiko eksistensial dari AI yang mencari kekuasaan. APS adalah singkatan dari Advanced, Planning, dan Strategically awareness“.Advanced” artinya ia lebih kuat dari manusia dalam tugas-tugas penting; “Planning” berarti itu adalah yang mengejar tujuan dengan menggunakan model dunianya; “Strategically awareness” berarti ia mempunyai model yang baik mengenai situasi strategisnya sehubungan dengan manusia di dunia nyata. Carlsmith berpendapat bahwa properti-properti ini secara bersama-sama menciptakan risiko pengambilalihan AI.
  • PASTA adalah akronim yang diperkenalkan oleh Holden Karnofsky dalam rangkaian postingan blog yang merupakan singkatan dari “Process for Automating Scientific and Technological Advancement”. Tesisnya adalah bahwa AI apa pun yang cukup kuat untuk mengotomatiskan penelitian dan pengembangan manusia sudah cukup untuk menghasilkan dampak yang eksplosif meskipun AI tersebut tidak memenuhi syarat sebagai AGI.
  • AI yang tidak dapat dikendalikan. Misalnya saja, ia hanya memiliki keterampilan peretasan yang kuat sehingga hampir tidak mungkin untuk mematikan atau menghapusnya dari internet. AI yang sangat ahli dalam memanipulasi manusia juga bisa menjadi tidak terkendali. AI yang tidak dapat dikendalikan tidak harus berupa AGI atau superintelligence berarti AI yang mampu menghindari atau melawan tindakan apa pun yang diambil manusia untuk memperbaiki keputusannya atau membatasi pengaruhnya di dunia.

Footnote:

  1. Istilah AGI mengandung ambiguitas, hingga beberapa orang menghindari penggunaannya.

--

--

Enlik Lee
AI Safety Indonesia

Lifelong learner, explorer, podcaster. I write in English and Indonesian. Homepage: enlik.tech