İşe Alım Sürecinde Yapay Zeka: Ayrımcılık Riski ve Mahremiyet
Yapay zekanın gelişimi; sağlık hizmetlerinden eğitime birçok farklı sektörde dönüşüm yarattı ve pek çok sürecin iyileşmesine olanak tanıdı. İnsan kaynakları süreçleri de hiç kuşkusuz bu dönüşümden etkilendi. Bugün; otomatik özgeçmiş taraması, video mülakat analizi, duygu analizi gibi işe alım sürecinin farklı birçok noktasında, yapay zekanın yoğun kullanım alanlarını görmekteyiz. Bu durum; doğru personelin kısa zamanda istihdam edilmesi ile “verimliliği” ve beraberinde de firmalara “rekabet avantajını” getirmektedir.
Ideal Corp. CEO’su Somen Mondal, işe alım süreci için yapay zeka kullanan şirketlerinin, her bir işe alım maliyetlerinde %71 oranında azalma ve işe alım uzmanının verimliliğinde üç katı oranında artış gibi olumlu sonuçlar elde ettiğini belirtmiştir.
Yapay zeka sistemlerinin “verimlilik” açısından ortaya koyduğu görünür faydanın yanında; karar alma süreçlerinde “ayrımcılık” yapma potansiyelini de barındırdığı göz ardı edilmemeli ve kapsamlı bir değerlendirme yapılması gerekliliği unutulmamalıdır.
- İşe alım sürecinde ayrımcılık riskini yönetmek neden önemlidir?
4857 Sayılı İş Kanunu’nun “Eşit Davranma İlkesi” başlığının 3. fıkrası altında; işe alım sürecinde biyolojik veya işin niteliğine ilişkin sebepler zorunlu kılmadıkça, cinsiyet veya gebelik nedeniyle ayrımcılık yapılamayacağı açıkça vurgulanmıştır.
İş ilişkisinin kurulması aşamasında, söz konusu olabilecek bir diğer madde ise Türk Ceza Kanunu’nun “Nefret ve ayrımcılık” başlıklı 122. maddesidir. Kanun koyucu işbu maddede “Dil, ırk, milliyet, renk, cinsiyet, engellilik, siyasi düşünce, felsefi inanç, din veya mezhep farklılığından kaynaklanan nefret nedeniyle;.. bir kişinin işe alınmasını… engelleyen kimse, bir yıldan üç yıla kadar hapis cezası ile cezalandırılır.” hükmü ile işverenin, işe alımlarda ayrım yapmaması gerekliliği açıkça düzenlenmiştir.
- İşe alım sürecinde yapay zeka kullanımı neden ayrımcılık riskine sebebiyet verebilir?
Yapay zekanın doğru çıktı üretebilmesi ve öğrenme sürecini sağlıklı şekilde tamamlayabilmesi için algoritmaların büyük ve temsili veri kümelerine ihtiyacı bulunmaktadır. Verilerin “eksik” ve “hatalı” olması; belirli grupların veri setlerinde yeterince “temsil edilmemesi” ya da geçmişte “ayrımcılığı yansıtan verilerin” kullanılması istemsizce hatalı sonuçların doğmasına sebebiyet verebilmekte ve hesap verilebilirliği ortadan kaldırabilmektedir.
Bu yüzden algoritma eğitiminde kullanılan veri setlerinin belirlenmesi ve herhangi bir ön yargı oluşumuna/ayrımcılığa mahal vermeyecek şekilde kural setlerinin oluşturulması konusundaki özen çok önemlidir. Öngörülemeyen sonuçlar için ise; çıktıların düzenli olarak denetim ve kontrol altında tutulması sağlanmalı; model ve veri seti ihtiyaca göre güncellenmelidir.
- İşe alım sürecinde ayrımcılık riskinin gerçekleştiği bir olay yaşanmış mıdır? Örnekleri mevcut mudur?
Farklı farklı sektör ve uygulamalarda, ayrımcılık riskinin tespit edildiği durumlar mevcuttur. İşe alım sürecindeki en çarpıcı örnek ise Amazon firmasının sürecinde gözlemlenmiştir. 2015 yılında, işe alım sürecinde kullanılan algoritmanın, 10 yıllık bir süre boyunca Amazon’a gönderilen özgeçmişlerden beslenmesi ve bu dönemde başvuruların çoğunun erkek olması sebebi ile erkek adayların tercih edilebilir olduğunu öğrenmesi sebebi ile pozisyona başvuran kadınlara karşı sistematik ayrımcılık yaptığı tespit edilmiştir.
- KVKK açısından dikkat edilmesi gereken noktalar nelerdir?
Bildiğiniz üzere KVKK, yapay zeka alanında kişisel verilerin korunmasına yönelik tavsiye niteliğinde bir doküman yayımlamıştır ve burada dikkat edilmesi gereken hususlara açıkça yer verilmiştir. Bu çerçevede; yalnızca birkaç önemli noktayı vurgulamak isterim.
- Tanımlanan “şeffaflık” ilkesine istinaden, adayların işe alım yolculuklarında yapay zekanın rolünü anlamaları sağlanmalı; işe alım süreci ile ilgili olarak adayların aydınlatılması gerekliliği göz ardı edilmemelidir.
- Bu süreçte, özel nitelikli kişisel verilerin kullanılmamasına özen gösterilmeli ve işlenmesi gerekiyor ise teknik ve idari tedbirlerin daha sıkı şekilde uygulanması gerekliliği unutulmamalıdır.
- Yapay zeka modellerinin eğitilmesi için “alenileştirilmiş” verinin kullanılması durumunda ise; alenileştirilen verinin amacı dışında kullanılıp kullanılmadığı değerlendirilmelidir. Amaç dışı bir kullanım mevcut ise; verilerin kullanım amacına ilişkin veri sahibine bilgi verilmesi ve açık rıza alınması gerekliliği unutulmamalıdır.
- Mevcut modelin iyileştirilmesi/eğitilmesi/araştırma ve geliştirme süreçlerinin yürütülmesi amacı ile verilerinin kullanılmasına rıza göstermeyen ya da silinmesini talep eden adaylar için imha sürecinin işletilmesi gerekliliği dikkate alınmalıdır.
- Son olarak; özellikle işe alım süreci gibi, kişisel veri işleme faaliyeti yürütülen yapay zekâ çalışmalarında, ilgili tüm tarafların katılımı ile veri koruma etki değerlendirmesi (VKED) çalışması kontrol ortamının tesis edilmesine fayda sağlayacaktır. Bu süreçte; gözlemlenen veye kabul edilen “belirsizlikler”, “sınırlamalar” ve “etik sorunlarla” ilgili olarak durumlar da risk değerlendirme çalışmaları çerçevesinde ele alınmalı ve gelecekteki çalışmalar için aksiyon planları geliştirilmelidir.
Yapay zekanın; hız, verimlilik, rekabet ve maliyet avantajı açısından ortaya koyduğu net faydanın göz ardı edilmesi mümkün değildir ve günümüzün gerçekliğidir. Bu yüzden; mevcut süreçlerimizde yapay zekanın çok daha fazla rol alacağı aşikardır. Sonuçların doğruluğunun ve genellenebilirliğinin düzenli olarak kontrol edilmesi ise ayrımcılık riskini kontrol altında tutmanın en önemli yoludur.
Bu süreçte kullanılan verilerin ise; KVKK mevzuatının belirlediği temel ilkelere uygun olarak işlenmesi gerekliliği unutulmamalı; adayların aydınlatılması ve gerektiğinde açık rıza alınması ihtiyaçları göz ardı edilmemelidir.
Çokça sevgiler,
Meltem Yapar
