Yapay Sinir Ağları (YSA)
Yapısı ve tarihçesi
Yapay Sinir Ağı Nedir?
Yapay sinir ağları (Neural Networks) insanlar tarafından oluşturulmuş örnekleri öğrenip bu örnekler arasındaki ilişkiyi anlayarak çevreden gelen olaylara nasıl bir tepki verilmesi gerektiğini belirleyen bilgisayar sistemleridir.
Yapay Sinir Ağının Yapısı
Bir yapay sinir ağı nöron adı verilen birçok biriminden meydana gelir. Ağ 3 ya da daha çok katmandan oluşan bir yapıya sahiptir. Bu ağda 1 girdi, 1 veya daha çok gizli ve 1 çıktı katmanı bulunmaktadır. Girdi katmanında ağa girdi bilgisini veren girdi kümesi bulunur. Girdi katmanı ile çıktı katmanı arasında birden fazla ara katman bulunabilir. Bir katmandaki her nöron bir üst katmanda ki nörona çeşitli ağırlıklar ile bağlıdır. Girdi katmanındaki her bir veri ağırlık değeriyle çarpılarak gizli katmana iletilir. Sonuç gizli katmanda bir transfer fonksiyonundan geçirilir ve çıktı katmanına gönderilir. Gizli katmanda 0 ile 1 arasında değişen çıktı elde etmek için transfer fonksiyonu olarak doğrusal sigmoid fonksiyonu kullanılabilir (Kutlu ve Badur, 2009).
Girdi Katmanı: Bu katmandaki elemanlar dış dünyada ki bilgileri sisteme iletmekle yükümlüdür. Bazı ağlarda girdi katmanında herhangi bir bilgi işleme işlemi olmaz.
Ara Katman: Girdi katmanından gelen bilgileri işleyerek çıktı katmana iletmekle yükümlüdür. Bazı ağlarda birden fazla ara katman olabilir.
Çıktı Katmanı: Ara katmandan gelen bilgileri işler, girdi katmanındaki veriler için uygun çıktı bilgisi üretip dış dünyaya göndermekle yükümlüdür.
Toplama Fonksiyonu: Hücreye gelen net girdiyi hesaplar. Bunun için çeşitli fonksiyonlar kullanılır. En sık kullanılanı girdi değerleriyle ağırlıkların çarpılıp toplanmasıdır.
Burada X girdileri W ağırlık değerini n ise bir hücreye gelen toplam girdi sayısını göstermektedir. Yapay sinir ağı modellerinde bu fonksiyonun kullanılması zorunlu değildir. Aşağıda kullanılabilecek çeşitli toplama fonksiyonları gösterilmiştir.
Aktivasyon Fonksiyonu: Hücreye gelen net girdiye karşılık üretilecek çıktıyı belirler. Birçok aktivasyon fonksiyonu bulunmaktadır. Toplama fonksiyonunda olduğu gibi aktivasyon fonksiyonunda da tüm hücreler (nöronlar) aynı fonksiyonu kullanmak zorunda değildir. Doğru çıktıyı belirlemek için kullanılması gereken formüller deneme yanılma yoluyla bulunabilmektedir. Sıklıkla kullanılan Çok Katmanlı Algılayıcılar modelinde genellikle sigmoid fonksiyonu kullanılmaktadır ve fonksiyon değerinin türevinin alınabilir olması şart koşulmuştur (Öztemel, 2003).
Burada NET olarak gösterilen NET girdi değerini ifade etmektedir. Aşağıda kullanılabilecek çeşitli aktivasyon fonksiyonları gösterilmiştir.
İlgilenenler için ufak bir tarihçe :)
1943’te Mcculloch ve Pitts MP adında bir model ortaya koyarak nöronun (hücrenin) matematiksel modelini oluşturmaya çalışmışlardır (Dase ve Pawar, 2010). Ardından nöronları kullanarak her türlü mantıksal modelin formülüze edilebildiği görülmüştür. Birden fazla nöronun kullanılması gerektiği düşünülerek öğrenme stratejileri geliştirilmeye başlanmıştır. Bunlardan ilki 1949 yılında Donald Hebb tarafından ortaya konan Hebbian öğrenme stratejisidir. Hebb çalışmasında hücrelerden oluşan yapay sinir ağı yapısının öğrenme ile ilişkili olduğunu saptamıştır. 1954 yılında Rosenblatt belirli bir organizasyon biçimi için öğrenmenin, algısal ayrıt etme ve genellemeye dayalı temel fiziksel parametrelerle tahmin edilebilir olduğunu belirtmiştir (Rosenblatt,1958). Bu sayede kendisinden sonraki çalışmalar için büyük öneme sahip algılayıcı modeli ortaya koymuştur.
Widrow ve Huff çok yönlü öğrenme yönteminin paralel erişimli bellek sistemleri ile bir araya geldiğinde mümkün olabileceğini savunmuş ve Rosenblatt’in algılayıcı modelinde ki öğrenme kuralını geliştirerek Adaline modelini ortaya koymuşlardır (Widrow ve Huff, 1960). Bu dönemde aynı zamanda tek katmanlı algılayıcı ( perceptron) geliştirilmiştir. Çalışmalar devam ederken 1950’li yıllarda ortaya atılan yapay zeka kavramı ilgiyi yapay sinir ağlarından uzaklaştırmıştır.
Bu zamana kadar ortaya atılan yapay sinir ağı modelleri doğrusal olmayan problemleri çözme becerisine sahip değildi. Minsky ve Pepert yazdıkları algılayıcılar (perceptron) kitabında yapay sinir ağının doğrusal olmayan problemleri çözme becerisine sahip olmadığını iddia etmiş ve bu iddia XOR probleminin çözümündeki başarısızlık ile kanıtlanmaya çalışılmıştır (Öztemel,2003). Ortaya atılan bu iddia birçok kişiyi bir nevi hayal kırıklığına uğrattığından yapay sinir ağı çalışmalarına ara verilmiştir.
1972'de Kohonen ve Anderson, birbirlerinden bağımsız olarak benzer bir ağ geliştirmişlerdir. Kohonen, çağrışımlı bellek olarak adlandırılan korelasyon matrisine dayanan ilişkisel bellek için yeni bir model önermiştir (Kohonen, 1972). Oluşturulan model öğretmensiz öğrenme için temel teşkil etmiştir. 1982’de Hopfield tarafından bir çalışma yayınlanmıştır. Hopfield’ın yaklaşımı sadece beyinleri modellemek değil, kullanışlı araçlar yaratmaktır. Matematiksel analiz ile bu tür ağların nasıl çalışabileceğini ve neler yapabileceğini göstermiştir. (http://www.psych.utoronto.ca/users/reingold/courses/ai/cache/neural4.html). Böylece yapay sinir ağlarına olan ilgi tekrar artmaya başlamıştır. Yapay sinir ağı çalışmaları için en önemli adımlardan biri olan çok katmanlı algılayıcı 1986’da Rumelhart ve arkadaşları tarafından ortaya atılmıştır (Rumelhart ve ark., 1986). Çok katmanlı algılayıcıların XOR problemi dahil birçok problemi çözmesi yapay sinir ağı üzerindeki baskıyı ortadan kaldırmış bu konudaki tezleri çürütmüş ve çalışmaların tekrar hız kazanmasını sağlamıştır. Devam eden yıllarda çok katmanlı algılayıcılara alternatif modeller ortaya konmuştur. Günümüzde devam eden çalışmalarla yapay sinir ağları teorik yapı olmaktan öteye çıkmış günlük hayatta birçok alanda kullanılan sistemlerin yapı taşı haline gelmiştir.
Kaynakça:
- Birgül Kutlu- Bertan Badur: Yapay Sinir Ağları İle Borsa Endeksi Tahmini
- Ercan Öztemel: http://www.papatya.gen.tr/PDF/yapay_sinir_aglari.pdf
- İbrahim Çayıroğlu: http://www.ibrahimcayiroglu.com/Dokumanlar/IleriAlgoritmaAnalizi/IleriAlgoritmaAnalizi-5.Hafta-YapaySinirAglari.pdf
- R.K Dase & D.D Pawar: Application of Artificial Neural Network for stock market predictions: A review of literature
- Rosenblatt: THE PERCEPTRON: A PROBABILISTIC MODEL FOR INFORMATION STORAGE AND ORGANIZATION IN THE BRAIN
- Widrow & Huff: ADAPTIVE SWITCHING CIRCUITS
- Rumelhart vd. : Learning Internal Representations by Error Propagation
