Yapay Zeka Da Yanılabilir | 3 İlginç Örnek

Şafak Koç
Co-one TR
Published in
5 min readSep 22, 2021

Her ne kadar farkında olmasanız da, yapay zeka günlük hayatımızı tamamen değiştirmiş durumda. Sabah gitmek istediğiniz yere ulaşmaya çalışırken cep telefonunuzdaki haritalar uygulamasının trafiği öngörüp size en hızlı rotayı göstermesi, internette dolaşırken tam da almak istediğiniz ürünlerin reklam kutucuğunda karşınıza çıkması veya akşam biraz dinlenmek için Netflix’i açtığınızda ilginizi çekebilecek bir belgeselin size önerilmesi yapay zekanın günlük hayatımızı nasıl kolaylaştırdığına dair sayısız örnekten sadece birkaçı. Ancak yapay zeka desteğiyle geliştirilmiş uygulamaların bu kadar fazla alanda kullanılıyor olması, onların her zaman kusursuz olarak çalıştığı anlamına gelmiyor.

Yapay zeka artık günlük hayatımızın bir parçası haline geldi.

Bankacılık uygulamalarındaki sanal asistanlarla bir türlü anlaşamamanız, yapay zeka ile çalışan işe alım sistemlerinin ırkçı elemeler yapması veya yüz tanıma araçlarının maske taktığınızda sizi tanıyamaması, yapay zeka destekli uygulamaların yeterince iyi bir şekilde geliştirilmemesi sonucunda karşılaştığımız sorunlardan bazıları. Bunlar gibi problemlerle karşılaşmamak için yapılması gereken şeylerden biri ise uygulamanın kullandığı yapay zeka modelinin eğitilmesini sağlayan veri setinin başarılı ve tecrübeli bir ekip tarafından doğru etiketlenmiş olması. Veri etiketleme sayesinde yapay zeka modelinin geliştirilmesi sırasında kullanılacak veri setinin uygun bir şekilde kategorize edilmesi sağlanır. Bu işlem gerektiği gibi yapılmadığında ise yapay zeka modeli beklenen şekilde çalışmaz. Bunun yanı sıra yapay zeka modeli eğitilirken kullanıcıların sıkça karşılaşabileceği durumlar göz önünde bulundurulur. Yapay zeka modelinin daha önce karşılaşmadığı ve nadiren yaşanabilecek “edge case” olarak adlandırabileceğimiz durumlar ise yapay zekanın hata yapmasına yol açar. Gelin, yapay zeka modeli yeterince iyi bir veri setiyle eğitilmediğinde veya benzer bir senaryoyla karşılaşmadığında ortaya çıkabilecek sorunları birlikte inceleyelim.

Tesla Otopilotunun Yol Üzerindeki Cisimlerle Trafik İşaretlerini Karıştırması

Tesla’nın şimdiden sürücülerin kullanımına sunduğu otopilot teknolojisinin bizleri kalabalık şehirlerde veya uzun yolculuklarda araba kullanmanın getirdiği stresten kurtaracak harika bir sistem olması heyecan verici. Arabanızın sizi tamamen otonom bir şekilde istediğiniz yere götürdüğü bir geleceğe bu kadar yakın olmak inanılmaz görünse de Tesla’nın yapay zeka destekli otopilot yazılımının henüz yüzleşmediği pek çok sıradışı durum var.

Geçtiğimiz aylarda bir Tesla sürücüsü aracı otopilot modunda ilerliyorken ilginç bir şey fark etti: Tesla dolunayı yol boyunca devam eden bir sarı trafik ışığı olarak algılıyordu. Sürücünün aracını kullandığı sırada ayın sarı renkli ve gökyüzünde kısmen alçak bir noktada olması ve otonom sürüş sisteminin daha önce benzer bir senaryoyla karşılaşmamış olması, Tesla’nın onu sarı trafik ışığı olarak algılamasına yol açmıştı. Neyse ki sürücünün yaşadığı garip problemin tek olumsuz yanı aracın sanki kısa süre sonra kırmızı ışık yanacakmış gibi hızını sürekli olarak düşük tutmasıydı.

Andy Weedman isimli bir Twitter kullanıcısı ise Tesla aracını kullanırken başka bir sorunla karşılaştı: aracı otoyolda hep aynı noktada ani fren yapıyordu. Bir süre sonra Andy, bu sorunun kaynağının otopilotun ani fren yaptığı noktadaki bir billboard reklamı olduğunu keşfetti. Billboard’daki reklam devasa bir DUR tabelası içeriyordu ve Tesla’nın otopilot yazılımı bu reklamı gerçek bir trafik işareti sanmıştı.

Yolun sağ tarafındaki billboard’da bulunan DUR tabelası aracın ani fren yapmasına yol açmış.

Google’ın Ayrımcı Algoritması

Google’ın fotoğraf depolama ve görüntüleme uygulaması olan Photos’un otomatik görüntü etiketleme özelliği sayesinde fotoğraflar ortak özelliklerine göre gruplandırılabiliyor. Bu özellik çoğunlukla doğru bir şekilde gruplandırma yapsa da 2015 yılında Twitter kullanıcısı @jackyalcine çoğu insanın hoşuna gitmeyecek bir hatayı paylaştı. Photos uygulaması bu kullanıcının siyahi arkadaşlarının olduğu fotoğrafları “Goriller” olarak etiketlemişti.

Photos uygulaması Twitter kullanıcısının siyahi arkadaşlarının fotoğraflarını “Goriller” olarak etiketlemiş.

Google kullanıcılardan özür dileyip “dehşete düştüğünü” ve sorunu çözeceğini söylese de 2018 yılında Wired, Photos’un görüntü etiketleme algoritmasını test etmek için binlerce fotoğrafı uygulamaya yükledi ve etiketleme sonuçlarını inceledi. Wired’ın açıklamasına göre Google’un bu hatayı çözmek için uyguladığı çözüm uygulamanın doğru bir şekilde etiketleme yapmasını sağlamak değil “goril”, “şempanze” ve “maymun” kelimelerini görüntü tanıma algoritmasından tamamen kaldırmak olmuştu.

Yapay Zeka İle Çalışan Kameranın bir Futbol Maçı Yayınında Sürekli Yan Hakemi Takip Etmesi

2020 yılında İskoç futbol takımı Inverness Caledonian Castle FC pandemi koşullarında seyircilerinin takım maçlarını izleyebilmesini sağlamak için yapay zeka destekli bir kamera sistemiyle canlı yayın yapmaya başladı. Pixellot firması tarafından geliştirilen bu kameranın özelliği ise kameranın topu takip ederek sürekli topa odaklanabilmesiydi.

Pixellot’a göre kamera test maçlarında oldukça iyi performans gösterse de, Ayr United takımına karşı yapılan maçta bir problem ortaya çıktı: kamera topla kel olan bir yardımcı hakemin kafasını sürekli birbirlerine karıştırıyordu. Hatta durum o kadar sinir bozucuydu ki maçın seyircilerinden biri kameranın hakemin kafasına odaklanmasının sebebiyle takımının attığı golü göremediğini söylemişti. The Verge’e konuşan Pixellot’a göre ise yardımcı hakemin kafasının video kayıtlarında saha alanının içinde olması ve topun sarı renkte olup yardımcı hakemin kafasıyla benzerlik göstermesi de bu hatanın ortaya çıkmasına yol açmıştı.

Yapay zeka destekli kamera futbol topu yerine hakeme odaklanıyor.

Tesla’nın otonom sürüş yazılımının aracın seyir halinde olduğu yoldaki cisimleri tespit edip tanımasını, Google’ın Photos uygulamasının farklı görselleri gruplandırmasını ve yapay zeka sistemli kamera sisteminin futbol topunu tanıyıp ona odaklanmasını sağlayan yapay zeka modellerinin geliştirilmesinde veri etiketleme önemli bir yer tutar. Örneğin trafik ışıklarının fotoğraflarından oluşan bir veri seti etiketlendiğinde, yapay zeka modelinin trafik ışıklarını renklerine göre ayırt etmesi sağlanır. Ayrıca farklı ortamlarda bulunan veya farklı şekillerde olan trafik ışıklarının da yapay zeka modeli tarafından tanınması için kapsamlı bir veri setinin uygun bir şekilde etiketlenmiş olması gerekir. Yapay zeka modelinin geliştirilmesinde kullanılan veri seti tecrübeli bir ekip tarafından özenle etiketlenmezse, yapay zeka modeli birbirinden farklı cisimleri algılayıp sınıflandırmada hatalar yapabilir ve bu durum incelediğimiz olaylarda karşılaşılan sorunlara sebep olur. Üstelik yapay zekanın karşılaşabileceği edge case’lere hazırlıklı olması için veri etiketlemenin devam etmesi ve yapay zeka modelinin yeni verilerle eğitilmesi gerekir.

Co-one’da hızlı, AI bazlı çapraz doğrulama ve gözlemlenebilir veri etiketleme sürecinden oluşan çalışma modelimiz sayesinde geliştirdiğiniz yapay zeka modelinin ihtiyaç duyduğu etiketlenmiş veri setini size en kısa sürede ulaştırıyoruz. Tecrübeli bir ekip tarafından doğru bir şekilde etiketlenen veri setini kullanan yapay zeka modeliniz karşılaştığı girdileri istenen şekilde tanımlayıp uygun sonuca ulaşabilir, bu sayede hatasız bir şekilde çalışmış olur. Co-one olarak yüksek kaliteli verinin yapay zeka destekli ürünler geliştiren şirketler için ne kadar önemli olduğunun farkındayız, bu yüzden ihtiyaç duyduğunuz hızlı ve kusursuz veri etiketleme hizmetini sağlamak için sürekli çalışıyoruz.

Siz de Co-one’ın sunduğu veri etiketleme hizmetinden faydalanarak mükemmel çalışan bir yapay zeka ürünü geliştirmek istiyorsanız bizimle iletişime geçin!

--

--

Şafak Koç
Co-one TR

sophomore astronautical engineering student, tries to spread the word