Yapay Zekanız (AI) Ne Kadar Güvenilir?
Temel realite, Yapay Zeka (AI)’ya güç veren veri ekonomisinin güven ilkesine bağlı olmasıdır…
Yapay Zeka (AI)’nın gerçekten dünyayı daha iyi hale getirme potansiyeline sahip olduğuna inanıyorum. Bunun için benim sözüme inanmanıza da gerek yok, ki baktığınız herhangi bir sektörde, karar verme sürecini iyileştirmek, yeni ve daha akıllı ürünler ve hizmetler yaratmak ve büyüyebilmek için zaten Yapay Zekanın zaten kullanıldığını görebilirsiniz. Ayrıca, iklim değişikliğinin etkisini gözlemlemek ve azaltmak ve elbette pandemiyi de izlemek ve bunun için aşı geliştirmek gibi en büyük küresel zorluklardan bazılarının üstesinden gelmek için de halihazırda kullanılıyor.
Yapay Zeka (AI)’nın potansiyelini maksimum noktaya yakın bir yere taşıyabilmesi için, ortaya koyduğu bazı zorlukların üstesinden gelinmesi gerekiyor; ki bu zorluklar; önyargı, şeffaflık, güvenirlik, hesap verebilirlik ve mahremiyet gibi büyük sorunlardır ve nihayetinde tek başına “güven” ilkesiyle bunlar özetlenebilir. Yani, bu zorlukların her birinin etkisini azaltmak için Yapay Zeka (AI)’ya güvenilemiyorsa, işe yaramayacaktır yapılanlar. Bu da herkesin güvenmesi gerektiği anlamına gelir, ki burada herkesten kastedilenler sadece bu alanda uzman olan ve amacını tam olarak anlayan insanlar değildir.
Bunların hepsinin özünde insani sorunlar olduğunu düşünmeliyiz. Tamamen teknolojik bir bakış açısıyla, biz zaten bu noktadayız.
Bunlar, yapay zeka çözümlerinin mimarlarının, inşa ettikleri her şeyde insan yanılabilirliğini, sahtekârlığını ve elbette eski güzel aptallığını hesaba katmaları gerektiğinden ortaya çıkan sorunlardır!
Temel gerçek, Yapay Zeka (AI)’ya güç veren veri ekonomisinin çalışabilmesi için güven ilkesine bağlı olmasıdır. İnsanlar buna güvenmezse, kişisel verilerini paylaşırken kendilerini güvende hissetmezler; bu da otomatikleştirilmiş kararları ve tahminleri temel alacak daha az veri, daha az doğru sonuç ve daha az değer anlamına gelir. PwC analistleri, yapay zekanın 2030 yılına kadar dünya ekonomisine 15,7 trilyon dolar ekleyeceğini tahmin ediyor, ancak daha güvenilir hale gelmezse bu elbette gerçekleşmeyecektir.
Gelin bu zorlukların her birini tek tek inceleyelim ve neden kaçınılmaz olarak “güven sorunları” başlığı altına girdiklerini irdeleyelim…
1| Hesap Verebilirlik
Hesap verebilirlikten başlayarak, Yapay Zeka (AI)’nın güvenilir olması için, insanların sürecin her aşamasında kendi eylemlerinden sorumlu olduğu gerçeğini bilmeleri gerekir. Yapay Zeka (AI) artık tıbbi taramalardan ciddi hastalıkları teşhis edebiliyor. Tabi cadde ve sokaklarımızda otonom araçlara pilotluk da. Bir Yapay Zeka (AI) teşhis aracı hayati bir uyarı işaretini kaçırırsa veya bir kazadan bir Yapay Zeka (AI) otopilotu sorumluysa, bunun sonucunda ne olur? Müşterilerimizle güven geliştirme konusunda endişeli değilsek, bunu bir bilgisayar hatasına indirebilir ve bir sonraki güncellemede düzeltme sözü verebiliriz. Bir yazılım uygulamasında, kullanıcılara küçük bir sıkıntıya neden olan bir hatadan bahsediyorsak, bu hemen hemen temizlenebilir. Kelimenin tam anlamıyla yaşam ve ölümün gücünü üzerimizde tutan bir makineden bahsediyorsak… bence muhtemelen bu olmayacak…
2| Açıklanabilirlik
Benzer şekilde, açıklanabilirlik de, nihayetinde güven ilkesine dayanan Yapay Zeka (AI) açısından büyük bir zorluktur. Yapay zeka, kişisel verilerimize dayanarak hayatlarımızla ilgili önemli kararlar alıyorsa, bu verilerin nasıl kullanıldığını bilmeyi talep etme haklarımız dahilindedir. Yapay Zeka (AI), özellikle makine öğrenimi ve derin öğrenme açısından, genellikle “kara kutu” olarak tanımlanır, zira içinde neler olduğunu göremiyoruz; nasıl çalıştığını anlamak çok karmaşık veya bazen algoritmalar kasıtlı olarak gözden uzak tutuluyor ve değerli veriler kurumsal açıdan paylaşılamaz olarak kabul ediliyor. Ancak insanlar verilerini yapay zekaya teslim etmenin sonuçlarını göremezlerse, muhtemelen bunu yapmayacaklardır…
3| Önyargı
Algoritmalardaki önyargı, Yapay Zeka (AI) ile çalışan herkesin aşina olduğu, ancak yavaş yavaş tüketiciler tarafından da gerçek bir endişe kaynağı olarak ele alınmaya başlayan başka bir sorundur. Algoritmik karar almanın cinsiyetleri, ırkları veya yönelimleri nedeniyle kendilerine karşı önyargılı olabileceği konusunda çok gerçekçi bir olgu olduğunu anlayan biri, neden Yapay Zeka (AI) servisleriyle yada uygulamarıyla etkileşim kurmak istesin ki? Bunun, erkeklere daha yüksek ücretli işleri ve kadınlara daha düşük ücretli işleri önerme eğiliminde olan otomatik iş eşleştirme algoritmaları ile gerçekleştiğini gördük, çünkü eğitildikleri veriler (toplandığı toplumu yansıtır) şunu gösterdi ki: bu çok “normal” bir durum…
4| Güvenirlilik
Yapay zeka tarafından kullanılan ve üretilen veriler ve içgörüler genellikle son derece değerlidir ve bu nedenle veri hırsızlığının her zamankinden daha yaygın ve kârlı olduğu bir çağda hırsızlar için cazip bir hedeftir. Tüketiciler, verileri konusunda bir kuruluşa güvenirlerse, verileri kaybetmelerini önlemek için güvenlik önlemlerinin alınacağından emin olmalıdırlar. Bunun ötesinde, toplumun geneli, örneğin otomatikleştirilmiş araçlar veya savunma altyapısı gibi çalışan Yapay Zeka (AI) sistemlerinin, kötü niyetli taraflarca ele geçirilemeyeceğine ve tabii ki yıkıcı etkileri olabileceği hususunda ona güvenmek zorundadır. Bu nedenle güvenirlilik, güvenin gerekli olduğu bir diğer zorlu alandır.
5| Mahremiyet
Son olarak (başka zorluklar da var, ama bence en önemlileri bunlar) mahremiyet, ki bu, tüketicilerin verilerinden elde edilen içgörülerin sahip oldukları kimselere ifşa edilmeyeceğine veya paylaşılmayacağına güvenebilmeleri gerektiği anlamına gelir. Bu, kiminle (ve neden) paylaşıldığını açıklayabilmemiz gerektiğinden ve düzenlemelere ve diğer hesap verebilirlik ilkelerine uyumlu olmamız gerektiğinden, hesap verebilirliğin yanı sıra açıklanabilirliğin getirdiği zorluklarla yakından bağlantılıdır.
IBM ile çalıştığım dönemlerde, güvenilir yapay zeka sorununun nasıl ele alındığını ve çözüm yollarından bazılarını anlama şansım oldu. Yapay Zeka (AI) Açıklanabilirlik Araç Seti, doğrudan bu zorluğu hedefleyen bir girişimin iyi bir örneğidir. Zira makine öğrenimi süreçlerinin ne kadar açıklanabilir olduğunu değerlendirmek için kullanılabilecek algoritmalar ve ölçümler sunuyor bizlere. Ayrıca, tüm Yapay Zeka (AI) projeleri için tamamlanmasını önerdiği, nasıl çalıştığı, nasıl eğitildiği ve önyargı ve güvenlik sorunları için nasıl denetlendiği konusunda şeffaflık sağlayan bir “Yapay Zeka (AI) bilgi sayfası” geliştirilmişti. Ayrıca, algoritmaları ve modelleri önyargı açısından incelemek ve gerektiğinde önyargı azaltma algoritmalarıyla bunlara karşı koymak için kullanılan bir Yapay Zeka (AI) Adalet Araç Seti de var.
IBM ayrıca, yapay zeka geliştirme ve kullanıma sunmada güvenilirlik ilkelerini teşvik etmeye adanmış açık bir kamu kuruluşu olan Linux Foundation’ın Yapay Zeka Vakfı’ndaki Güvenilir Yapay Zeka Komitesine de başkanlık ediyor. Güvenin etik olduğu kadar bir iş ilkesi olduğu da hızla netleşiyor.
Elbette hepimiz şeffaf, hesap verebilir, tarafsız, güvenli ve müşterilerimizin mahremiyetine saygılı olmayı istemeliyiz. Ancak bunu yapmamak sadece vicdanımıza yük olmakla kalmaz, işimize de ciddi zararlar verebilir!
Teknoloji trendleri hakkında daha fazla bilgi edinmek isterseniz, yeni kitaplarıma bir göz atabilirsiniz: Tech Trends in Practice: The 25 Technologies That Are Driving The 4th Industrial Revolution and The Intelligence Revolution: Transforming Your Business With AI.
Yazımı okuduğunuz için teşekkür ederim. LinkedIn ve Forbes’ta düzenli olarak yönetim ve teknoloji trendleri hakkında yazılar yazıyorum. Yapay Zeka (AI) hakkında yeni bir kitap kaleme aldım, hakkında daha fazla bilgi edinmek için buraya tıklayabilirsiniz. Gelecekteki yayınlarımı da okumak için ağıma buradan abone olabilirsiniz veya ‘Takip Et’i tıklayabilirsiniz. Ve Ayrıca, Twitter, Facebook, Instagram, Slideshare veya YouTube kanalım aracılığıyla da benimle iletişime geçmekten çekinmeyiniz.
Bernard Marr
