Lojistik Regresyon Gücünü Nereden Alıyor?

Lojistik Regresyona Detaylı Bir Bakış ve Sigmoid Fonksiyonu-1

Regresyon Fransızca kökenli bir kelime olup Türkçe karşılığını ele alırsak “İki veya daha çok değişken arasında doğrusal bir ilişki olup olmadığının tespiti ve bu doğrusal ilişkinin doğrusal bir denklemle nasıl ifade edilebileceğinin gösterilmesi.” manasına gelir. Ama regresyon kelimesi, Lojistik kelimesinin yanına düşünce, “bağımlı değişkenin bağımsız değişkenin değerlerine bağlı olarak meydana gelen olayın olma olasılığının tahmin işlemini” yapar.

Olasılık deyince kesinlik ve imkansızlık arasına kümülatif olarak yığılmış 0 ile 1 aralığındaki değerler kümesi geliyor akla ki bu yüzden Lineer (doğrusal) fonksiyonun yerini sigmoid fonksiyonu alıyor, yani artık bir ilişkinin varlığının ötesine gidilip sınıflandırma yapılıp “ak ile kara” ortaya çıkarılıyor.

Y=a+bX

Yani lineer fonksiyon grafiği iki değişken arasında bir ilişki olup olmadığını ortaya koyan, kesin kararları olan, dümdüz bir hattır. Yolundan şaşmaz, yumuşamaz, yol onun için bir durma biçimidir.

Burada X bağımsız değişken, Y ise X e boynu kıldan ince olan bağımlı değişkendir. X isterse kendi önüne b katsayısını alarak etki gücünü artırıp azaltabilir ya da yanına bir sabit sayı olan a değerini ekleyerek Y nin değerini istediği gibi sabit bir artışla değiştirebilir. Diğer bir deyişle burada maşuk X ise Y aşık olan oluyor bir nevi.

Sigmoid fonksiyonu ise lineer fonksiyonun tersine aşırılıklardan, keskinliklerden ortaya çıkan bir denge durumunu temsil eder.

Bir ucu 0 a yakın olan değerlerden ve diğer ucu 1 e yakın değerlerden yola çıkarak , ortada yer alan 0.5 değerine yaklaşılır.

Bu durum iki zıt uç arasında bir orta yolu bulma gayretidir ki gerçek dünya problemlerinde gerekli olan ilk adım diyebiliriz bu orta yolu bulma işine .

İşte tam da burada Lojistik Regresyonun Gücü, her girdiği ortamda arka planda yer almasının nedeni ortaya çıkıyor. Yani Lojistik regresyonun arkasındaki er(miş) Sigmoid fonksiyonu.

Sigmoid fonksiyonuna şöyle yakından bakalım bize neler anlatıyor aslında zatıalileri:

Sigmoid iki değişken arasında keskin geçişler yerine yumuşak geçişler sağlarken hayatta da değişimin keskin duruş ve kararlarla değil kademeli gerçekleştiği fikrini çağrıştırır.

Sigmoid fonksiyonu, sürekli bir fonksiyondur. Aldığı yol boyunca koptuğu, parçalandığı, hoplayıp, zıpladığı durum hiç söz konusu değildir. Ama yeri gelince yumuşak eğilme bükülmeler ile önüne çıkan engelleri, yolundan sapmadan, şaşmadan aşar. Bu, onun süreç ve değişim odaklı bir bakış açısını temsil ettiğinin kanıtıdır. Eğer Süreç felsefesine atıfta bulunulursa burada, süreç felsefesi de değişim ve oluşumun zaman içindeki yolculuğuna odaklanır. Sigmoid de böyle bir yolculuğu temsil eder.

Sigmoid, y değişkenin değeri 1'e yaklaştıkça pozitif geri bildirimin azaldığını gösterirken y değişkeninin değeri 0'a yaklaştıkça da negatif geri bildirimin azaldığını gösterir. Bu ise aşırı uçlara çekilmek yerine yine orta yolu bulmanın, dengede kalmanın, aşırılıklardan uzak durmanın en güzel temsilidir ki insanı outlier olup uzakların yalnızlık dehlizlerinden kurtarır.

Sigmoid 0 ile 1 arasında gezinirken sonsuz küçük değerlerden sonsuz büyük değerlere geçişi temsil eder ki kesin yanlış ve kesin doğru yerine göreli gerçeklere bir atıfta bulunur sanki. Postmodern felsefecilerin en sevdiği fonksiyon olabilir kendisi.

Sigmoid fonksiyonun türevi her noktada pozitiftir. Bu özellik, sigmoid aktivasyonunun nöron ağlarında sıkça tercih edilmesinin sebeplerinden biridir. Yani olumlu bakış bir alt uzaya bile düşse bozmaz.

Sigmoid fonksiyonu belirsizlik ve kesinlik arasında geçişleri ifade eder yani ne tam 1 değerini alır ne de 0. Her iki uca da çok yaklaşır ama ne hep olur ne hiç. Bu ikisi arasında mekik dokumak gibi olan hayata göz kırpar.

İşte Lojistik regresyonun gücü buradan, sigmoid fonksiyonundan geliyor ki fonksiyon içinde sırlı sayılardan biri olan e sayısını içererek pek çok sırrı daha barındırdığı da fısıldıyor bilim dünyasına .

Pierre-Simon Laplace (Fransız matematikçi ve gökbilimci) sigmoid fonksiyonu için şunları ifade etmiştir :”Tüm bilim, iki uç nokta arasındaki geçişlerin incelenmesinden oluşur: Sonsuz küçükten sonsuz büyüğe, koşullu olandan mutlak olana, hareketsiz durumdan harekete.” demiştir.

Joshua Bengio (Kanadalı bilgisayar bilimcisi. Yapay sinir ağları ve derin öğrenme konusundaki çalışmalarıyla tanınmıştır. 2018 Turing Ödülü’nü Geoffrey Hinton ve Yann LeCun’la birlikte almaya hak kazanmıştır) ise başka bir bakış açısıyla sigmoid fonksiyonu adına “Nöronlar için doğal bir aktivasyon fonksiyonudur çünkü nöronlar ya ateşlenir ya da ateşlenmez.” demiştir.

Sigmoid fonksiyonu hakkında söylenen bu sözler, neden bu kadar popüler ve önemli bir fonksiyon olduğunun açık ifadeleri. Nöronların ateşlenme durumunu modellemedeki doğallığı ve esnekliği sigmoidi çok kullanışlı bir aktivasyon fonksiyonu yapmaktadır.

Burada sigmoid in 0 ile 1 değerleri arasındaki değer alması ve gerçek dünya problemlerinin sınıflandırılmasındaki başarısına bakılırsa insanın da 0 ile 1 aralığında düşündüğü kanısına varılabilir mi acaba ?

İnsan beyninin 0 (yok) ve 1(var) olarak düşündüğüne dair bazı ipuçları vardır:

• İnsanların çoğunun bir şeylere karar verirken evet/hayır (1/0) tabanına dayanarak düşündüğü bilinmekte yani beynin temelde iki seçenekli bir yapıya sahip olduğu söylenebilir.
• Nöronlar ateşlendiğinde ya tamamen ateşlenir ya da hiç ateşlenmezken ara durumlar ise çok az görülür. Bu da, insan beynindeki 0 ve 1 mantığını akla getirir.
• Dopamin gibi nörotransmitterler ya salgılanır ya da salgılanmaz ve salgılanma düzeyleri ya çok yüksek ya da çok düşüktür ki orta halleri ise neredeyse hiç görülmez. Bu durum da beyindeki 1–0 mantığını destekler niteliktedir.
• Beyin dalgalarından elde edilen EEG sinyallerinde de genellikle iki farklı frekans aralığı olarak ifade edilen alfa ve beta frekansları gözlemlenir. Bu da beyin aktivitesinin iki farklı durumda (1–0) olabileceğini düşündürür.

Ancak, aşağıdaki nedenlerle de insan beyninin tam anlamıyla 0–1 şeklinde düşünmediği söylenebilir:

• Beynin 100 milyardan fazla nöronu ve bu nöronlar arasında 100 trilyondan fazla kurulan bağlantısı vardır ki bu da beyindeki işlemlerin gerçekleşme sirkülasyonunun çok karmaşık olduğunu gösterir.
• Sinir sistemi çok sayıda analog sinyal işler. Analog işlem, sürekli değişen sinyaller üzerinde gerçekleştirilen işlemdir. Örneğin, görme ve işitme gibi duyular analog sinyalleri alır ve işler. Bu sinyaller kesikli değil, sürekli değişen değerler içerir. İkili (dijital) işlem ise, sadece iki değerli (0 ve 1) veriler üzerinde gerçekleşir. Burada değerler sadece açık ve kapalı, evet ve hayır, doğru ve yanlış gibi iki durum arasında değişir. Görme, işitme, dokunma vb. duyular analog verilerle başlar. Bu analoğu dijitale dönüştürmek ise zordur

• Nöronların ateşlenme düzeyi ve nörotransmitter salınımı aslında kesikli değil, kademeli bir yapıdadır yani 0 ve 1 arasında geçişler vardır.

• Beyin çok yüksek boyutta paralel işlemler yapar. Bu, onun düşünme şeklinin ikili mantıktan ziyade bulanık ve dağınık olduğunu gösterir

Tüm bunlardan anlaşılıyor ki sigmoid fonksiyonun matematiksel yorumu insan beyninin düşünme şekline ve çalışma mantığına paralel seyrediyor ve işliyor. Yani beynin düşünme ve karar verme yolculu sigmoid eğrisi gibi 0 ile 1 aralığında gerçekleşiyor. Bu da lojistik regresyonun sade görünümünün altında yatan gizli kahramanı işaret ediyor: Sigmoid fonksiyonunu.

Tüm bu değerlendirmeler ışığında lojistik regresyonun gücüne gözlerimizle şahit olmak adına sonraki yazıda buluşalım…