Ketika Halusinasi AI adalah Fitur
Mungkinkan kita bisa mempercayai AI di mesin pencari?
Di pagi yang cerah, langit yang biru dan matahari yang baru terbit. Saya ditemani tawon yang sedang memanen bunga, mendengarkan percakapan yang menarik tentang CEO Google yang diwawancarai oleh Decoder sebuah podcast-nya The Verge.
Obrolan ini menarik karena topiknya berkaitan dengan industri yang lagi saya geluti yakni Search Engine Optimalization (SEO) dan Content Marketing. Juga kaitannya dengan teknologi yang sedang tren yakni AI.
Decoder episode ini sebenarnya membahas beberapa isu yang juga penting, tapi saya akan merespon beberapa saja yang masih ada kaitannya dengan AI di mesin pencari.
Dari percakapan antara Sundar Pichai dengan The Verge, ada banyak reaksi dari para publisher terkait penerapan AI Generative di search engine Google. Publisher ini maksudnya website-website yang bikin konten, kemudian menggantungkan diri pada Google untuk mendapatkan traffic. Kemudian traffic-nya ini menentukan bagaimana mereka mendapatkan uang.
Jadi kalau bisa dianalogikan, Google Search bagi sebagian situs itu semacam jalan. Kalau di kehidupan kita, jika jalan itu kita tidak bisa lewati atau jalannya terblokir, ya kita tidak akan pernah bisa lewat. Tidak bisa masuk rumah, tidak bisa jualan di sana. Apalagi jika jalannya mati. Mungkin lahannya bisa dialih fungsi, tapi kita harus alih fungsi lahan yang tidak terlalu bergantung dengan jalan akses atau lalu lintas yang banyak.
Nah karena Google Search itu memiliki peran yang mirip seperti jalan di internet, dengan Google Search ada banyak lalu lintas datang ke banyak website. Ketika Google menerapkan AI di mesin pencarinya, ada reaksi dari para “pengguna jalan” yang mengatakan bahwa mereka akan kehilangan penghidupannya. Bahasan penting inilah yang diangkat oleh Nilay Patel sebagai host Decoder.
Kamu bisa simak juga siniarnya di ujung artikel ini.
Hadirnya Search Generative Experience (SGE)
Penerapan AI di Google Search sejauh ini disebut dengan Search Generative Experience (SGE) yang masih terus menjadi bahan eksperimentasi meski telah diluncurkan sejak pertengahan Mei kemarin. Cara kerja SGE ini adalah dengan mengumpulkan berbagai macam sumber yang ada kemudian SGE akan merespon perintah (prompt) yang kita ajukan dengan menghasilkan jawaban yang sesuai dengan mencantumkan referensi-referensi yang relevan pada snippet.
Selama ini, Google sebenarnya telah memiliki fitur Featured Snippet yang menempatkan jawaban cepat dan singkat di hasil pencarian paling atas. Namun SGE, juga ditempatkan di atas Featured Snippet atau mengganti sepenuhnya. Jawaban teratas ini yang biasanya paling banyak dilihat oleh pengguna Google. Sayangnya, akibat fitur ini, pengguna yang berkunjung ke situs akan berkurang karena merasa jawaban yang dibutuhkan telah terpenuhi.
Pertanyaannya kemudian adalah berdasarkan apa SGE memilih referensi yang dan jawaban yang ia sampaikan?
Jika merujuk pada panduan Google Search Central, Google menganggap konten yang memenuhi prinsip EEAT (Experience, Expertise, Authoritativeness, & Trustworthiness) adalah konten yang paling bisa menjawab kebutuhan pengguna. Konten yang memenuhi prinsip ini juga yang akan ditempat oleh Google di posisi teratas hasil pencarian. Itu mengapa situs-situs yang membuat konten, berlomba untuk bisa memenuhi prinsip ini sehingga mendapat banyak pengunjung dari posisi teratas hasil pencarian.
Sayangnya, dengan hadirnya SGE, teknologi ini alih-alih membuat eksosistem pencarian menjadi lebih “sehat” yang terjadi malah membuat laman hasil pencarian sama sekali tidak menarik karena jawaban “terbaik” sudah disajikan oleh SGE. Sialnya lagi, SGE terkadang menampilkan jawaban dengan referensi yang tidak berada di 10 situs teratas. Maka, ini menjadi pertanyaan besar, lalu apa yang membuat sebuah referensi bisa dikutip oleh SGE dalam jawabannya? Apakah masih EEAT? Jika benar EEAT maka seharusnya yang muncul di SGE adalah setidaknya 10 situs “terbaik” yang berada di hasil pencarian teratas.
AI yang tidak Memiliki Pengalaman Empiris
Prinsip EEAT itu prinsip yang cukup akurat untuk menjamin sebuah informasi bisa dipercaya dan bisa diandalkan. Prinsip ini, bagi saya pribadi kerap saya gunakan untuk berbagai jenis konten yang saya hasilkan terlepas apakah itu untuk mendapat audiens atau tidak. Sebab prinsip EEAT cukup kuat untuk membuat kita sebagai manusia percaya pada informasi.
Konten yang benar-benar bisa menunjukkan pengalaman yang riil, akan cenderung membuat kontennya lebih ahli, lebih expert. Kemudian konten yang bisa menunjukkan keahlian akan cenderung terbukti otoritatif (authoritativeness). Selanjutnya konten yang otoritatif akan bisa kita percaya (trustworthiness). Alur seperti ini adalah alur bagaimana kita sebagai manusia mempercayai informasi. Itu kenapa pengalaman empiris penting.
Masalahnya, kini kita dihadapkan dengan teknologi AI, yang menurut saya akan sulit memiliki pengalaman empiris kecuali dia memiliki “indera” yang menyentuh dunia nyata. Perusahaan seperti Figure AI memang telah mengembangkan AI yang memiliki tubuh (dengan menggunakan teknologi OpenAI), namun diluncurkan untuk publik. Gemini milik Google dan ChatGPT milik OpenAI sendiri hingga saat ini tidak memiliki tubuh fisik, sehingga sebenarnya kita bisa anggap dia tidak memiliki pengalaman empiris yang menjadi sebuah kebenaran berdasarkan pengalaman.
Ketika kita menyentuh barang kita manusia akan tahu seperti apa bentuk barang tersebut. Kita tahu teksturnya, kita tahu apakah dia dingin, panas, netral, tajam atau tumpul, kita tahu materialnya dari apa, dan sebagainya. Semua informasi ini membuat kita bisa berkreatif untuk menggunakan benda tersebut di luar penggunaan normalnya.
Beberapa AI seperti Gemini milik Google dan ChatGPT memang mulai punya kemampuan mengenali benda dan tahu biasanya digunakan untuk apa benda itu. Tapi keduanya tidak bertindak kreatif untuk apa benda tersebut bisa digunakan, keduanya hanya mengumpulkan informasi bahwa benda itu pernah digunakan untuk apa saja.
Kita manusia yang hidup di dunia nyata perlu untuk mendasarkan banyak hal pada pengalaman empiris. Bukan berarti saya seorang empirisme mutlak, karena saya orang beriman. Namun apa yang AI hadapi saat ini adalah tantangan pengalaman empiris. AI memiliki banyak informasi dalam pusat datanya. Dia hanya perlu memilah dan memanggilnya sesuai kebutuhan dan perintah kita. Tetapi, dirinya tidak memiliki (atau setidaknya belum) kemampuan mengolah pengalaman empiris seperti manusia. Tantangan ini adalah tantangan berikutnya dari teknologi AI, para peneliti berlomba untuk menghasilkan AGI (Artificial General Intelligence). Sebuah konsep yang mendefinisikan kecerdasan buatan telah mencapai kecerdasan yang sama atau melampaui manusia.
Dengan AGI, kecerdasan buatan bisa menyelesaikan solusi. Dia bisa berpikir secara independen tanpa perintah, bisa bertindak sesuai keinginannya dan bisa memilih mana yang benar dan salah, bahkan mungkin bisa mendefinisikan benar salahnya sendiri. Teknologi ini akan melampaui kemampuan manusia secara kognitif karena AGI memiliki jaringan data sebesar bumi dan mengolahnya secara instan. OpenAI bahkan memiliki visi untuk bisa melahirkan teknologi AGI dan terus mengembangkan teknologinya sejak tahun 2023. Saat ini, perkembangan ChatGPT tergambar dari percakapan antar ChatGPT seperti di video ini.
Bagaimana SGE memilih referensi jika dia tidak mengetahui mana yang benar dan salah?
Kembali ke masalah SGE oleh Google, jika AI saat ini belum bisa menyadari mana referensi yang benar dan mana referensi yang salah. Maka bagaimana SGE bisa menyarankan hasil perintah yang tepat?
Selama ini, AI baik itu ChatGPT atau Gemini menggunakan algoritma vote untuk menentukan apakah hasil generatifnya sesuai atau tidak. Itu kenapa di keduanya, terdapat tombol like dan dislike kemudian kita bisa memberi masukan. Dari sini, AI bisa tahu kalau jawabannya benar atau salah.
SGE juga menggunakan metode yang sama. Untuk mengetahui jawaban benar atau salah, algoritma vote akan menentukan apakah jawabannya akan diperbaiki atau tidak.
Dampaknya, nasib situs-situs yang bergantung dengan lalu lintas dari pencarian akan sangat amat fluktuatif akibat fitur SGE ini. Selain semakin sedikit ruang untuk situs terpampang di depan pencari jawaban, dengan SGE, juga membuat pengguna search engine malas untuk mengunjungi situs karena jawabannya telah diringkas oleh SGE.
Di konteks SEO, telah banyak praktisi yang berusaha untuk memecahkan pola logika SGE. Seperti apa cara berpikirnya dan infromasi apa saja yang kerap dihasilkan. Tujuan dari memahami SGE ini adalah untuk menemukan cara bagaimana konten atau informasi yang diterbitkan oleh situs bisa diprioritaskan oleh SGE. Dalam arti sederhana, bagaimana cara kita membuat SGE bisa selalu menayangkan apa yang kita sampaikan.
Sebagai ilustrasi, saat berada di podcast Decoder, percakapan antara Sundar Pichai dengan Nilai Patel juga sempat menunjukkan bagaimana Nilai memberikan smartphone-nya pada Sundar untuk melakukan pencarian dan menunjukkan apa yang ditampakkan oleh SGE. Dan meminta pendapatnya apakah itu jawaban yang dia harapkan? Sayangnya, Sundar hanya menjawab diplomatis.
AI Ibarat Sosok Sotoy yang Menjaga Portal Jalan
Ambil contoh SGE Google itu semacam jalan jalan untuk akses ke suatu tempat ke banyak rumah.
Misalkan aja di sebuah komplek rumah ada satu jalan kemudian di sana banyak rumah juga ada pasar. Kemudian orang biasanya lalu lalang dan ada orang berdiri di depan akses jalannya sebut aja si AI. Si AI selanjutnya bertanya ke orang yang ingin lewat atau orang yang akan melalui jalan itu ke tempat-tempat yang ada di jalan itu ke rumah A, ke rumah B, ke rumah C atau ke pasar. Dia berniat untuk beli sembako seperti beli minyak, beli telur, beli beras. Lalu si AI yang “serba tau” menjelaskan bahwa di jalan ini ada ini, ini, ini. Itu informasi yang bagus dan mendapat value dari penjelasan si AI yang lengkap, singkat dan mudah dipahami.
SGE seperti orang yang belum pernah melalui jalan atau melihat apa aja yang ada di jalan itu. Dia belum pernah lihat rumahnya si A dia belum pernah lihat rumahnya si B dia belum pernah lihat pasar bahkan dia belum benar-benar memiliki pengalaman empiris tentang bentuk telur. Dia juga belum tahu baunya telur itu seperti apa.
Di analogi ekstrim saya, saya membayangkan AI saat ini seperti sosok sok tahu yang sedang menjaga portal jalan. Kita ingin menuju sebuah tempat, melalui sebuah jalan lalu menemukan si AI yang sedang berdiri menjaga portal. Dia lalu menawarkan pada kita, “sedang cari apa?” Lalu kita menjawab “sedang cari laptop untuk gaming“. Si AI lalu dengan ceplas ceplos menyebutkan daftar laptopnya, lalu menunjukkan tokonya, dia juga menunjukkan ulasan-ulasan terkait laptop yang dia sebutkan. Meyakinkan sekali, dan membantu kita ketika menyusuri jalan tersebut untuk menemukan laptop untuk gaming.
Namun, tidak banyak yang tahu kalau AI itu bahkan tidak pernah mengerti apa itu gaming. Dia tidak pernah bermain game, dia juga tidak benar-benar mengalami apa yang dibutuhkan saat bermain game. Dia hanya bercuap dan ceplas ceplos berdasarkan data yang dia sudah dapatkan. Ibarat anak kuliah, dia mungkin hanya mendapat informasi dari buku, tanpa pernah melakukan penelitian di laboratorium atau di lapangan.
Bisakah Mempercayai Sosok yang Berhalusinasi?
Jawaban-jawaban AI yang sok tahu inilah yang disebut AI Hallucination. Dia tidak menggunakan data secara benar untuk menghasilkan jawaban yang “benar”. Dia asal cuap saja untuk menjawab perintah yang diberikan. Ada banyak sekali referensi tentang halusinasi AI ini. Google bahkan juga telah memberi panduan tentang fenomena halusinasi AI dan bagaimana mencegahnya.
Menariknya, di siniar Decoder, Sundar menjelaskan bahwa halusinasi AI ini adalah fitur yang tidak terelakkan. Dia percaya bahwa dengan AI yang berhalusinasi, itu adalah tanda AI mulai berimajinasi dan bisa menghasilkan karya generatif yang berbeda dari yang sudah ada.
Di panduan tentang SGE yang diterbitkan oleh Google pada Januari awal tahun 2024 juga menjelaskan setidaknya ada lima keterbatasan SGE yang mereka kembangkan:
- Kesalahan intepretasi ketika mencari pembuktian
Keterbatasan ini bisa terjadi karena kesalahan intepretasi bahasa yang mengakibatkan salah pengutipan dan hasil jawaban - Halusinasi
Seperti yang sudah saya jelaskan di atas, SGE bisa salah memahami fakta dan memberi informasi yang tidak salah. - Bias
Data yang digunakan untuk melatih SGE cenderung berupa data berkualitas yang hanya mewakili sebagian kalangan atau konteks yang tidak tepat. - Hasil konten mencerminkan opini persona tertentu
Ini artinya AI bisa saja hanya mencuplik opini persona lalu menyampaikan jawabannya dengan tendensi tertentu. - Duplikasi atau kontradiksi dengan hasil pencarian
Hasil dari SGE merupakan hasil dari sintesa dari berbagai sumber, yang mungkin bisa berbeda dari hasil pencarian lainnya.
Seperti yang kita tahu, AI saat ini telah bisa menghasilkan karya generatif dalam berbagai macam format, mulai dari teks, audio, foto, gambar dan belakangan video. Semua karya generatif itu lahir dari miliaran data dan informasi yang kemudian disimpulkan dalam waktu singkat.
Pernyataan bahwa halusinasi AI adalah fitur, adalah sesuatu yang mencengangkan saya. Mind blowing kalau kata anak muda sekarang. Itu artinya, semakin hari, kita harus berhadapan dengan teknologi yang memang sok tahu, bahkan berhalusinasi. Kita harus “percaya” dengan jawaban-jawabannya. Terutama dalam hal yang memang di luar kemampuan kita untuk mengonfirmasi kebenarannya.
Masalahnya, kita sebagai manusia cenderung memiliki spesialisasi yang meruncing dan spesifik, sehingga kita tidak banyak memahami bidang di luar keahlian atau keseharian kita. Alhasil, kita akan makin angguk-angguk saja pada jawaban yang dihasilkan oleh AI ketika kita tidak benar-benar tahu fakta sebenarnya.
Apakah kita akan semakin sulit untuk mengetahui siapa yang berbohong dan siapa yang sotoy di masa depan? Mengingat, hadirnya AI di tengah masyarakat, menurut saya akan mengubah cara kita berinteraksi, bertukar informasi dan motif interaksinya. Kita perlu juga ingat, untuk mengetahui apakah seseorang berbohong atau tidak, membutuhkan kemampuan lebih yang tidak semua orang punya. Saya pun secara catatan perjalanan hidup, kerap tertipu karena sering tertutupi ucapan-ucapan berbuih yang terdengar wah tapi ternyata isinya kosong.
Bayangkan jika sosok yang punya miliaran informasi, dia juga bisa mengolah informasi itu menjadi ringkas, lalu dia juga bisa terlihat ramah, namun ternyata informasi yang dia berikan adalah salah. Kita mungkin akan menggugatnya, menuntutnya, mengkonfrontasinya, namun sayangnya AI tidak memiliki tubuh fisik. Bahkan perusahaan atau individu “pencipta”-nya belum tentu bisa mengendalikan informasi generative apa yang dia hasilkan. Lalu bagaimana kita bisa mempertanggung jawabkan dampak dari apa yang AI hasilkan?
Perdebatan inilah yang tidak juga usai di kalangan filsuf etika dan juga penyusun hukum. Apakah AI merupakan sosok entitas?
Menempatkan AI Sebagaimana Mestinya
Sejauh ini, saya tetap meyakini bahwa AI merupakan alat bantu. AI memang mampu untuk menghasilkan informasi sintetis sebagaimana disebut oleh Nilai Patel saat berbincang dengan Sundar Pichai. Dengan AI informasi sintetis itu bahkan bisa bertambah dalam jumlah yang masif. Sistemnya yang bisa mengotomatisasi produksi informasi.
Selama AI tidak benar-benar memenuhi prinsip EEAT, maka saya merasa belum bisa percaya pada AI. Saya membutuhkan alasan lebih untuk mempercayai AI untuk hal-hal tertentu di luar bidang yang saya pahami. Meski sampai detik ini saya juga menggunakan AI untuk membantu pekerjaan-pekerjaan saya yang berkutat dengan konten dan informasi. Saya akan sangat terbuka untuk AI yang bisa menjadi alat bantu pekerjaan dan melatih kemampuan saya karena dia memang memiliki keahlian dan pengetahuan yang masuk dalam prinsip expert.
Akibat AI hanya memiliki aspek expertise, saya menempatkan AI sebagai narasumber. Sedangkan saya menjadi jurnalis yang selalu bertanya padanya. Saya juga rutin untuk menguji kemampuan diri dengan berdiskusi bersama AI. Menguji pemahaman dan memintanya mengkritisi apa yang saya sampaikan. Tentu saja, diskusi yang terjadi selalu dengan sikap skeptis. Kadang malah dengan marah-marah karena sering kali AI tidak konsisten karena hanya berusaha memuaskan perintah yang kita minta.
Kini, dengan hadirnya AI macam ChatGPT-4o yang bisa becakap dan sekaligus menjawab pertanyaan kita, proses diskusinya akan semakin mudah. Namun lagi-lagi, kita perlu sedikit untuk kritis apakah AI ini benar-benar bisa kita andalkan? Apakah dia memiliki experience? Apakah dia sudah mencapai posisi sebagai otoritas di bidang yang kita tanya? Apakah AI telah mendapatkan apa yang pantas baginya, yakni dipercaya? Trust hanya bisa diraih, bukan hasil pemberian. Saya kira, AI harus bisa meyakinkan kita, manusia.
Cara Pandang Google Tentang Solusi
Hadirnya SGE merupakan upaya Google untuk memberikan solusi. Google adalah perusahaan yang terus berinovasi untuk menghasilkan produk dan layanan yang berkualitas untuk para penggunanya. Namun dari siniar Decoder dengan Sundar Pichai, saya juga akhirnya menyadari bahwa fokus tujuan dari Google adalah para penggunanya (user) bukan para kontributor (situs-situs yang terindeks di Google) .
Google berusaha untuk bisa selalu memberi value pada penggunanya. Dengan SGE, para pengguna tidak perlu lagi mencari ke banyak situs untuk mendapatkan jawaban yang utuh. SGE akan bisa merangkum semua informasi yang ada dari berbagai macam situs, menjadi informasi yang singkat dan mudah dipahami. Bahkan dalam konteks tertentu, SGE juga akan memberikan rekomendasi berdasarkan kesimpulan “selera”-nya.
Sayangnya, value yang diperoleh pengguna ini akan berbanding terbalik untuk pengelola situs dan penerbit konten (publisher). Dengan hadirnya SGE, persaingan akan makin brutal. Tidak semua situs akan mendapatkan lalu lintas pengunjung. Tidak semua situs akan muncul sebagai referensi di layar jawaban SGE. Maka, jika memang Google tidak berpihak, tidak ada jalan lain selain beradaptasi dan mengubah ketergantungan.
Saya memprediksi, penggunaan SGE semakin hari akan semakin masif di mesin pencari. Persaingan teknologi AI akan semakin gila-gilaan. Berbagai perusahaan berlomba untuk menjadi pemenang karena ini adalah perlombaan winner takes all yang baru. Hanya AI yang paling dipercaya yang akan digunakan sebab data dan informasi yang digunakan adalah sama. Dari seluruh dunia. Perbedaan hanya akan terjadi jika masing-masing AI memiliki kepribadian. Sesuatu yang belum bisa dicapai tanpa AGI.
Kembali Fokus pada Audiens dan Customer bukan Mesin Pencari
Akibat SGE, seluruh usaha yang bergantung pada traffic mesin pencari menjadi terancam. Namun menurut saya ini juga menjadi kesempatan untuk bisnis kembali fokus pada aspek yang fundamental untuk diperhatikan: audiens dan pelanggan (customer). Merekalah yang akan menghidupi usaha kita. Mereka juga yang akan menemukan situs bisnis kita. Dan mesin pencari dengan SGE-nya hanyalah salah satu saluran lalu lintas datang. Jika saluran ini memang tidak menguntungkan atau bahkan cenderung menghambat usaha, maka sewajarnya untuk kita tinggalkan.
Masih ada saluran pemasaran dan relasi digital lain yang bisa kita gunakan untuk terhubung dengan audiens dan pelanggan. Ada media sosial, ada iklan berbayar, ada pemasaran via pemengaruh (influencer), dan bahkan surel yang sejak beberapa dekade lalu disebut akan mati akibat media sosial. Tapi nyatanya, masih sangat efektif digunakan untuk usaha dan terus tetap relevan.
Persoalan traffic bagi saya dengan sudut pandang sebagai publisher dan creator (pembuat konten), di satu sisi bisa menguntungkan karena membantu saya menghasilkan banyak konten berkualitas. Namun dari sisi lalu lintas, berpotensi untuk mengurangi banyak pengunjung. Tapi saya percaya bahwa pengunjung yang telah melalui penjaga portal AI ini akan lebih berkualitas lebih terseleksi yang kemudian akan menemukan solusi yang kita tawarkan, jika konten-konten kita memang bermanfaat untuk mereka.
Jadi, fokus utamanya adalah perhatikan audiens dan pelanggan. Menjadi Brand yang punya pengalaman, punya keahlian, menjadi otoritas dan mendapatkan kepercayaan. Akhirnya, kepercayaan kita pada SGE di mesin pencari Google patut untuk terus diuji. Sebagai pengguna kita perlu tetap kritis, sedangkan sebagai penerbit konten, kita perlu beradaptasi. Siapkah situs dan usahamu?
Jika kamu merasa konten seperti ini bermanfaat, kamu bisa dukung saya dengan memberi tip melalui laman NJB. Saya berkomitmen untuk terus bisa menghasilkan karya yang terbuka tanpa halangan langganan atau keanggotaan.
