Geçmişten Geleceğe Bias
Bu yazımızla birlikte bias nedir?, günümüz teknolojisinde bias’ın önemi ve etkilerini anlamaya çalışalım.
Bias Nedir?
Bias yani dilimizdeki anlamıyla Önyargı, Türk Dil Kurumu’nda kelime anlamı
Bir kimse veya bir şeyle ilgili olarak belirli şart, olay ve görüntülere dayanarak önceden edinilmiş olumlu veya olumsuz yargı, peşin yargı, peşin hüküm, peşin fikir
Bir insanı kısa bir süre tanıyarak sahip olduğu her şey hakkında bilgi sahibi olamayız fakat biz çoktan kısa sürede edindiğimiz bu azıcık bilgi ile bir karara varmışızdır. İşte bu önyargıdır. Tabi diğer yandan önyargıyı yok etmenin ne kadar zor olduğunu Einstein’in bir sözüyle de anlayabiliriz.
Önyargıları parçalamak, atomu parçalamaktan zordur.
Önyargı, bireylere, düşüncelere, belirli bir insan topluluğuna ya da nesnelere ilişkin olabilir. İleri safhalarda nefrete dönüşebilir. İşte tam bu noktada yazımızda gideceğimiz yönü de belirlemiş oluyoruz.
Bir insanın mensup olduğu dinine, ırkına, ten rengine göre yargılanması. Bu konu dünyamızın tarihinde farklı toplumlarda, ülkelerde görülmüş ve mahkemelerin karar almalarını dahi etkilemiştir. Suçsuz bir insanı sadece ten rengi farklı diye suçlu bulunmuştur.
Bilişsel Biaslar — Önyargılar
Diğer insanlar ve durumlar hakkında mantıksız olabilecek çıkarım sapmaları için kullanılan bir kalıptır. Bunlara birkaç örnek olarak;
- Doğrulama Eğilimi: Sadece kendi kararlarımızı doğrulayan bilgileri alma eğiliminde olmamız.
- Bilgi ile Önyargı: Daha fazla bilginin, daha doğru kararlar verilmesini sağlayacağına ilişkin önyargı.
- Kalıba Sıkıştırma Eğilimi: Bir grup ya da kişi hakkında aslında gerçekten hiçbir bilgiye sahip değilken bile, dış görünüşler ya da hareketler üzerinden, kişileri bir kalıba sıkıştırma eğiliminde bulunmamız.
- Hayatta Kalma Önyargısı: Sadece hayatta kalan örnekler üzerinden, bir konuya ilişkin yanlış tahminlerde bulunmak ve durumları yanlış yargılamak.
Bu örnekler gibi daha birçok bilişsel önyargılar mevcut bu konularda meraklıysanız araştırabilirsiniz.
Öte yandan Yapay Zeka uygulamaları gerçekleştirirken de bias’a rastlarız.
Yapay Zekada Bias
Bu alanla ilgilenenlerin alışık olduğu gibi örnek görseldeki yapay sinir ağında bias nöronu her bir katmana eklenen ve sabit bir değere sahip özel bir nörondur. Bias nöronu aktivasyon fonksiyonunu grafik üzerinde sola veya sağa kaydırmayı mümkün kılar.
Aynı zamanda bias eğittiğimiz modelin yanlılık miktarını ifade eder.
Şimdi gerçek hayatta kullanılma imkanı bulunmuş birkaç yapay zeka örneklerinden bahsedelim.
Yargıda Yapay Zeka
ABD’de mahkemelerde karar vermesi için yıllar önce alınan mahkeme kararları ile eğitilmiş bir yapay zeka projesi. Mahkemelerde bu geliştirilen yapay zeka projesine karar verme görevi verilmiş fakat belli bir zaman sonra yapay zekanın aldığı kararlar incelenmiş ve fark edilmiş ki beyaz tenli insanları siyah tenli insanlara göre kayırıyor, ırkçılık eğilimi gösteriyor.
İşe alımda Yapay Zeka
Bu yapay zeka projesi ile de şirkete başvuran insanları işe alma işlemi gerçekleştiriliyor fakat yine yapay zekanın aldığı kararlara göz atıldığında öz geçmişinde kadınlarla alakalı dernek bilgisi veya örnekleri mevcut olan kişileri alma miktarı çok az.
Bu iki örnekte de yapay zekanın ayrımcılık yaptığını görüyoruz. Sebebini düşündünüz mü?
Sebebi yapay zekaları eğitildiği verilerin içinde saklı. Mahkeme örneğimizde ABD tarihinde alınan mahkeme kararları ile eğitildiğini söylemiştik. ABD’nin tarihinde büyük bir ırkçılık gerçeği mevcut ve bu tarihte mahkemelere de yansımıştır. Biliyoruz ki yapay zeka bizim verdiğimiz verilerle şekillenir. Bu verilerle eğitilen bir yapay zekanın nasıl davranmasını beklersiniz? İşte aradığımız nokta tam burası!!
İnsanlar sürekli veri üretiyor fakat bu veriler ne kadar tarafsızlar. Bizim ürettiğimiz bu veriler eğittiğimiz yapay zekanın karar alma yönünü de etkiliyor. Geçmişimizde gösterdiğimiz bias - önyargı - yanlılık geleceğimizi de etkiliyor.
Bias’ın önüne nasıl geçeriz?
- Bu noktada geliştireceğimiz modelimizde neyi çözdüğünüzü ve neyin yanlış gideceğini bilmemiz gerekiyor. Geliştirdiğimiz bu model nedir? Son kullanıcıda ne gibi sorunlar ortaya çıkabilir? Veri kümesinde dengesizlikler var mı?(örneğin kadın yazılımcı - erkek yazılımcı)
- Veriyi nereden aldık? — Aldığımız kaynak yanlı olabilir.
- Yeteri kadar uç durumlar var mı? — Bunlar olmadan modelimiz normalin dışında olan durumları tanımlamakta zorlanacaktır.
- Modeller verilerle öğrenir. İyi veri iyi model doğurur, kötü veri kötü model doğurur ve yanlı veri yanlı model doğurur.
- Modelimizi eğittikten sonra sadece doğruluk oranına bakmak yerine modelin ürettiği tahminleri değerlendirmek gerekir.
Bunun gibi konuları inceleyip sorulara yanıt arayarak bias’tan kaçınabilir ve daha sağlıklı bir model geliştirebiliriz.
Böylece bias konusunu ele aldık. Yazıyı yazmama karar vermemde sunumuyla etkili olan Şebnem Özdemir’e teşekkürler.
Faydalı olması dileğimle. Başarılar.
Kaynaklar:
