Yapay Zeka ile Ölümden Sonraki Yaşam ve Etik Kaygılar
Dijital olarak dirilen ölüler etik kaygıları beraberinde getiriyor…
‘Deadbot’ veya ‘Griefbot’ olarak bilinen yapay zeka sohbet robotları, dijital izleri kullanarak ölen kişilerin dil kalıplarını ve kişiliklerini canlandırıyor. Yapay zekadaki ilerlemeler, kaybettiğimiz sevdiklerimizle iletişim kurma imkanı sunuyor; ancak uzmanlar, bu teknolojilerin potansiyel psikolojik etkileri ve etik sorunları hakkında endişelerini ifade ediyorlar.
Araştırmacılar, Cambridge Üniversitesi Leverhulme Zekanın Geleceği Merkezi’nden (LCFI), gelişmekte olan “dijital ölümden sonraki yaşam endüstrisi” kapsamında, ölü insanlarla iletişim kurma platformlarının oluşturulabileceği üç olası yöntemi açıklıyorlar.
LCFI’de araştırmacı ve çalışmanın ortak yazarı olan Dr. Katarzyna Nowaczyk-Basińska, “Yapay zekanın üretken alanındaki hızlı ilerlemeler, internet erişimi ve temel bir bilgi birikimine sahip hemen hemen herkesin, vefat etmiş sevdiklerini yeniden canlandırabileceği anlamına geliyor.” dedi.
‘Deadbot’ların Yükselişi
Bu AI sohbet robotları, ‘Deadbot’ veya ‘Griefbot’ olarak biliniyor ve ölen kişilerin dijital izlerini kullanarak onların dil kalıplarını ve kişiliklerini canlandırıyor. Bazı firmalar bu hizmeti “ölüm sonrası yaşam” olarak sunuyor; ancak, araştırmacılar, tasarım güvenlik standartları göz ardı edildiğinde ciddi risklerin olabileceğini vurguluyor.
Bu teknolojiler, yas tutanlara teselli sağlayabilir; fakat aynı zamanda, sanki ölen kişiden gelenmiş gibi reklamlar göstererek insanların kendilerini dijital olarak “ölü tarafından izleniyormuş” gibi hissetmelerine sebep olabilir.
Araştırmacılar, tasarımcıların bir deadbot oluşturmadan önce izin alması gerektiğini, ancak izinsiz yasaklamanın etkili olmayacağını belirtiyorlar. Ayrıca, ölen kişinin onuruna saygı göstermek için yönergelerin kullanılmasını tavsiye ediyorlar.
Çalışma, ölmekte olan bir kadının, oğlunun üzüntüsüyle başa çıkabilmesi için ardında “Ebeveyn” adında hayali bir şirket bıraktığını anlatmaktaydı.
Başlangıçta işlevsel olan Deadbot, çocukla etkileşime geçtikçe kafa karıştırıcı yanıtlar vermeye başlar ve hatta ileride yüz yüze bir görüşme bile teklif edebilir.
Araştırmacılar, yapay zekanın ölümden sonraki hizmetlerinde “anlamlı şeffaflığı” destekliyor ve kullanıcıların yapay zeka ile etkileşim içinde olduklarını anlamalarını sağlamak amacıyla, ölü robotlar için yaş kısıtlamaları öneriyor.
Öngörülemeyen Sonuçlar: “MaNana” Vakası
Çalışma, kullanıcıların ölen büyükannelerinin rızası olmaksızın dijital bir versiyonunu oluşturmalarına izin veren ‘MaNana’ adlı bir hizmeti özetlemektedir. Başlangıçta memnun olan torun, ölen büyükannesinin robot versiyonuyla etkileşime girerek teselli bulmuştur.
Ancak deneme süresi bittikten sonra, yakınları ölen sevdiklerinin sesini ve tavırlarını taklit eden yemek teslimatı reklamlarını almaya başladılar.
Saygısızlık yapıldığını düşünen akraba, büyükannesinin anısına saygı göstermek için deadbot’u kapatmak istedi, fakat hizmet sağlayıcılar bunu yapmanın hassas bir yöntemini sunmadılar.
Yapay Zeka Yapımı Botların İstenmeyen Dijital Tacizleri
Araştırmanın ortak yazarı ve Cambridge LCFI’den Dr. Tomasz Hollanek, deadbot’ların saygısızca kullanımını engellemek amacıyla tasarım protokollerinin uygulanmasının önemine dikkat çekiyor.
“Ölü robotların onurlu bir şekilde emekliye ayrılması için yöntemler ve hatta ritüeller göz önünde bulundurulmalıdır. Bu, dijital bir cenaze töreni ya da sosyal bağlama göre değişebilecek diğer tören türleri olabilir.” denildi.
“Deadbot’ların reklam yapma veya sosyal medyada aktif olma gibi saygısızca kullanımlarını engelleyecek tasarım protokolleri önermekteyiz.”
Yaş Sınırlamaları ve Duygusal Kapanma
Çalışma, hem yeniden yaratılan robotların hem de kullanıcıların haklarını ön plana çıkararak, ölü robotlar için yaş sınırlamaları ve sonlandırma seçeneklerini önermektedir.
Hollanek, “Dijital ölümden sonraki yaşam hizmetlerinin, yalnızca yeniden yaratılanların değil, simülasyonlarla etkileşime girecek olanların haklarını ve rızalarını göz önünde bulundurmasının hayati önem taşıdığını” belirtti.
Çin’de Patlama Yaşanıyor
Yapay zeka kullanarak ölüleri canlandıran ‘Project December’ ve ‘HereAfter’ gibi platformlar mevcut ve bunların bazıları Çin’de de geliştiriliyor.
Çin’de, ölen yakınların yapay zeka kopyalarına olan talep artmaktadır. Massachusetts Teknoloji Enstitüsü’nün (MIT) yayınladığı bir rapora göre, Silicon Intelligence ve Super Brain gibi firmalar, fotoğraflar, videolar ve ses kayıtları kullanarak dijital avatarları yeniden yaratma hizmetleri sunmaktadır.
Artık binlerce dolarlık maliyetler birçok kişi için yalnızca birkaç yüz dolara düşmüş durumda ve bu da daha fazla insanın sevdikleri için “dijital ölümsüzlük” fikrini değerlendirmesine olanak tanıyor.
Yeni teknolojilerde olduğu gibi, yapay zeka çoğaltmasının izin, sorumluluk ve sınırları gibi etik ve yasal konular önemlidir. Super Brain ve Silicon Intelligence gibi şirketler, bu dijital kopyaları yaratmak için aile üyelerinin onayına ihtiyaç duyarlar.
Sosyal ve Psikolojik Risklerin Azaltılması
Nowaczyk-Basińska, yapay zekanın üretken alanındaki hızlı ilerlemeleri dikkate alarak, dijital ölümsüzlüğün sosyal ve psikolojik risklerini azaltma konusundaki aciliyeti vurguladı ve “Dijital ölümsüzlüğün sosyal ve psikolojik risklerini azaltmak için şimdi düşünmeye başlamalıyız, çünkü teknoloji zaten aramızda,” dedi.
Çalışma, ilk kez “Philosophy and Technology” dergisinde yayımlandı.
Sujita Sinha | IE
