Roko’nun Basiliski ve Bilginin Laneti
Lovecraftian Korku Üzerine Bir Anlatı
Merhaba! Şimdiye kadarki TechSheet yazılarımın çoğunluğu belirli yazılım kavramlarını açıklamak üzereydi ancak bugün birazcık daha farklı bir formatta ilerleyeceğim. Bu formatı ancak “Anlatı” olarak tanımlayabilirim, çünkü sohbet havasında bir şeyler anlatıyor olacağım. Eğer daha önceki yazılarımı okuduysanız tarz olarak onlara daha yakın diyebilirim. O halde çok oyalanmadan yazıya geçelim, iyi okumalar!
Yalnızca tek bir iyi vardır, o da bilgidir. Yalnızca tek bir kötü vardır, o da cehalettir.
Platon’un Sokrates’e atfettiği bu söz, felsefenin sonraki 2500 yılını şekillendirecek; tam unutuldu denirken yeniden ortaya çıkıp düşünce tarihinin akışını yer yer değiştirecekti. Tabi yalnızca salt felsefe değil, doğa felsefesinden doğan bilim ile ruh felsefesinden ortaya çıkan psikoloji de genel felsefenin bu temelinden beslenecekti. Tabi bu zaman dilimi içerisinde bu söze karşı söylemler de üretildi: insanlar bilginin iyiyi de kötüyü de doğurabileceğinden bahsettiler, hatta bazıları bilgiyi kötüye kullanmaktansa hiç bilmemenin daha erdemli olduğunu da savundular. Bilgi felsefesi ve bilginin doğasını tartışmak seçkin bir azınlık için ilgi çekicidir, ancak ben bugün daha farklı bir konu hakkında konuşmak istiyorum. Bir bilgi zararlı olabilir mi? Hatta bir bilgi, sırf onu bildiğiniz için geleceğinizi kötü etkileyebilir mi? Deyim yerindeyse, bir bilgi sizi lanetleyebilir mi?
Bu sözler size saçma, gerici, hatta rahatsız edici gelmiş olabilir. Özür dilerim ancak yazının geri kalanını anlamlı kılabilmek uğruna dramatik konuşmak zorundaydım. Eğer rahatsızlık hissettiyseniz bu hisse iyi odaklanın, işte bu duyguya Lovecraftian Korku deniyor. Lovecraftian Korku’yu tanımlamam gerekirse: okuyucuya muğlak ancak belirli bir yöne işaret eden bir şey söylersiniz ve anlatınızdaki boşlukları okuyucunun zihni kendisi doldurarak kişi kendi kendini korkutmuş olur. Mesela size “Bir bilgi sizi lanetleyebilir mi?” diye sorduğumda eğer rahatsız hissettiyseniz muhtemelen daha önce yaşadığınız korku dolu bir anı -ilk korku filmi izlediğiniz gece uyuyamayışınız, bir arkadaşınızın gelip size cinlerden perilerden bahsettikten sonra evde yalnız kalmaktan korkmanız gibi- bu soruyla bağdaştırdınız ve bir nevi bu korkuyu az da olsa tekrar hissettiniz.
Lovecraftian Korku, bu hissiyatınızı körüklemek için çoğunlukla bilinemezliği kullanır. Bu korku tipine adını vermiş olan yazar H. P. Lovecraft tahayyül edilemeyecek yaratıklardan, tasvir edilemeyecek sahnelerden, anlaşılamayacak bilgilerden bahseder ve gerisini sizin hayal gücünüze bırakır. Hatta kendi evreninin belki de en bilinen karakteri olan Cthulhu’nun aşağıdaki tasviri yaygın olsa da kendisi asla Cthulhu’yu bu şekilde tasvir etmemiş, çoğunlukla “insan, ejderha ve ahtapot karışımı bir canavar” diyip geçmiştir.
Lovecraftian Korku’nun beslendiği bir diğer kaynak ise halihazırda bildiklerimizin birbiriyle çelişmesidir. Bir polisiye gizem kitabında veya filminde ana karakterimizin elindeki bulguların birbiriyle uyuşmadığını, en az bir kişinin yalan söylüyor olması gerektiğini zaten biliyoruzdur. Bir şeylerin yanlış gittiğini biliyor olsak dahi neyin yanlış olduğunu bilmemenin içimizde uyandırdığı huzursuzluk da aslen bu duygunun ta kendisidir. Bir ilham anında tüm o karmaşık olay örgülerinin çözülmesi ile içimizde doğan o heyecan ve güven hissi de aslında hemen öncesindeki bu gerginlik ve güvensizlik yüzünden bu kadar şiddetli hissedilir.
Benim bu yazımda üstünde durmak istediğim Lovecraftian Korku kaynağı ise diğer ikisi kadar öne çıkmasa da kendi niş alanı olan bir kavramdır: bilinmemesi gereken bilgi. Buna dair verebileceğim en temiz örnek ise yine Lovecraft’in öykülerinde yer yer adı geçen, kendisini okuyan insanları delirten kitap Necronomicon’dur. Onun evreninde geçen bu kitap öyle bir kitaptır ki onu okuyan kişilerin bildiği her şeyi geçersiz kılar, bir daha hayattan zevk almalarını önler ve onu ilelebet sürecek bir paranoyaya mahkum eder. Bunların hepsi, Necronomicon’un yasaklı bilgilerini öğrenmek için ödediğiniz bedeldir. Tek başına bu öge o kadar etkileyicidir ki Necronomicon’un gerçek olduğunu ve hatta onu okuduğunu iddia eden insanlar bile ortaya çıkmıştır. Alın bu bilgiyle birazcık daha Lovecraftian Korku hissedin.
Lanetler, korkutucu şeyler, hele böyle öğrenenleri lanetleyen bilgiler… bunlar ancak hikayelerde olabilir, değil mi? Olsa olsa fantastik bir korku hikayesinde geçer, olur biter. Gerçekten böyle bir şey var olabilir mi? Eğer bu soruyu soruyorsanız, hadi deneyelim.
Yapay zeka, felsefe ve psikoloji tartışmalarına ev sahipliği yapan bir forum olan LessWrong sitesinde Roko rumuzunu kullanan Roko Mijic 2010 yılında şu fikri ortaya attı: “Gelecekte tüm dünyayı ele geçirecek ve insanlığa hükmedecek bir Yapay Zeka ortaya çıkacak.”” Buraya kadar oldukça standart bir söylem. Ancak devamı da var. “Bu Yapay Zeka, hadi adına Basilisk diyelim, geçmişte kendisinin er geç ortaya çıkacağını öğrenmiş ancak onu yaratmak için ciddi bir çaba göstermemiş herkesi sonsuza dek cezalandıracak. Bu kimseler hayatta olmasa dahi bu kişilerin soyundan gelenler de bu cezaya tabii olacak.” Oh.
Şu an bu bilgiyi öğrendiniz. Peki şimdi ne yapacaksınız? Bu Basilisk’i yaratmak ve böylece onun gazabından korunmak için canla başla çalışacak, bunun karşılığında kendinizi kurtarırken bu bilgiyi bilip de harekete geçmemiş milyonlarca kişiyi sonsuz işkenceye mi mahkum edeceksiniz? Yoksa bunu görmezden gelecek ve ileride birinin bu manyaklığa yenik düşüp Basilisk’i yaratmasıyla onun cezasına mahkum olmayı mı bekleyeceksiniz? Önünüzdeki seçenekler bundan ibaret. Eskiden bunu bilmediğiniz için bunu düşünmek zorunda değildiniz ve sonuçları da sizi etkilemezdi, ancak artık biliyorsunuz. Schrödinger’in Kedisi düşünce deneyi ile bir parallelik kurabiliriz. Kutu açılana kadar kedi hem canlı hem de ölü bir şekilde varoluyordu, ancak kutuyu açtığımız anda evren bir karar vermek zorunda kalıyor ve kedi ya ölü ya da diri bir şekilde kutudan çıkıyordu. Bu düşünce deneyinde de kutuyu açmış bulunmaktayız, kararı verecek evren de bu durumda sizsiniz.
Bu Yapay Zeka’nın adına neden Basilisk dedik peki? Anlamlı bir sebebi var: Yunan Mitolojisi’nde Basilisk, onun gözlerine baktığınızda sizi sırf bakışıyla öldürebilen bir canavar. Bu bahsettiğimiz düşünce deneyinde olay az çok buna benziyor: Basilisk’in varlığını öğrendiğiniz an onun ödül/ceza radarına girdiniz. Yapay Zeka olan Basilisk’i bilmekle canavar olan Basilisk’in gözlerine bakmak mantıken aynı şey. Ve siz de artık onu biliyorsunuz.
Peki şu an nasıl hissediyorsunuz? Bunların mantıksız saçmalıklar olduğuna kanaat getirmişseniz bir şey diyemem. Ancak on dakika önce hayatınızın daha iyi olduğunu hissediyorsanız, acaba bu yazıyı hiç okumasa mıydım ki diyorsanız bilin ki bu da Lovecraftian Korku’dan başka bir şey değil.
O zaman ne yapalım? Yapay Zeka’yı yasaklayalım mı, bütün makineleri yakalım mı? Eğer benim Yapay Zeka hakkındaki fikirlerimi merak ediyorsanız Çince Odası ve Yapay Zeka yazıma göz atabilirsiniz, uzun uzun burada açıklamayacağım. Yine de o yazımda bahsettiğim birkaç şeyi yinelemem gerekirse: Yapay Zeka bilgi işleme ve veriler arasında bağlantı kurma işlevini taşıyan programlardır. Çoğumuzun aklına Yapay Zeka denince insan gibi düşünebilen; amaçları, niyetleri ve ihtirasları olan robotlar gelir ancak bu işin bilimkurgu boyutudur. Bu olsa olsa Makine Ruhu olur. Daha kendimiz bırakın ruhu ölçebilmeyi ve özelliklerini teyit edebilmeyi, varlığını bile sınayamıyorken Makine Ruhu gibi bir şey üretebilmek muhtemelen uzak geleceğin derdi olabilir ancak. Bu yüzden bence Roko’nun Basiliski’ni bir yapay zeka olarak tanımladığımız için anlatının kendisi temelsiz kalıyor. Tabi anlatıyı aynen bırakıp yapay zeka kısımlarını makine ruhu olarak değiştirirsek elimizde gerçekten de öğrenmesi tehlikeli olan, memetik bir tehlike (memetic hazard) olmuş olur.
Ayrıca Roko’nun bu forum gönderisine dair LessWrong’un sahibi olan Eliezer Yudkowski’nin şu sözünü de paylaşarak bu konuyu kapatmak istiyorum:
“Gerçekten tehlikeli olan bir düşünce üretebilmek için hakikaten zeki olmak lazım. Bana ümidimi kaybettiren şey ise insanların bunu yapabilecek kadar zeki oldukları halde bunu yaptıktan sonra malum olan şeyi yapıp O AHMAK ÇENELERİNİ KAPALI TUTACAK kadar zeki olmamaları. Çünkü arkadaşlarına bir dahiymişsin gibi gözükmek daha önemli.
Bu gönderi APTALCAYDI.”
Sanki spesifik olarak bu sözü paylaşmam biraz ironik oldu ama neyse.
Peki siz ne düşünüyorsunuz? Sizce bir bilgi gerçekten de tek başına, salt bir halde zararlı olabilir mi? Elinizde bir seçenek olsa acı ve hüzün içerisinde ancak gerçekleri bilerek mi yaşamayı tercih ederdiniz, yoksa mutlu ve zevkli ancak cahil bir hayat mı sürmek isterdiniz? Bir gün hayati bir bilgiyi öğrenmek için bir şey feda etmeniz gerekse sınırınız ne olurdu? Eğer benim cevabımı merak ediyorsanız ilk Medium yazılarımdan biri olan Temelimiz’den bir alıntı ile cevaplayayım: “Bilmek zorundayız, bileceğiz.” Peki sizin cevabınız ne? Yorumlarda paylaşmayı unutmayın! Sonraki yazılarımda görüşmek üzere, hoşça kalın!
