Keloğlanın Optimizasyonla imtihanı
Zekâ Hakkında Kıssalı Yazılar — 6 *
Evvel zaman içinde kalbur saman içinde…Develer tellal iken, pireler berber iken, ben annemin beşiğini tıngır mıngır sallar iken…Bir varmış bir yokmuş…
Diyarın birinde bir garip Keloğlan varmış. Sevdiceği Aykız ile mutlu mesut yaşarmış. Mutlu mesut yeknesaklığından sıkılan YZ Cadısı, Aykızın zihnini çalıvermiş ve “Optimizasyon” namlı diyarda bir kuyuya saklamış. Aykız Keloğlan’ ı, tanımaz, bilmez olmuş. Aslına bakarsanız YZ cadısı düşünüldüğü kadar kötü de değilmiş, sadece canı biraz macera istermiş. Bu yüzden Keloğlan’ a Aykız’ ın zihnini bulabilmesi için çeşitli alet edavat bırakmış.
Keloğlan önce afallamış. Bu alet edavatlar nedir? Ne işe yarar? Optimizasyon diyarı nerededir? Nasıl gidilir? Üzerinde nasıl gezilir? Kel kafacığında deli sorular dolanırken, aklına “Tarihteki ilk YZ projesini” yürüten Nasrettin Hoca gelir. YZ cadısının bıraktıklarını toparlayıp, çalar hocanın kapısını.
Hoca keloğlanın anlattıklarını dinler. Bırakılan alet edavatları inceler. Sonra başlar anlatmaya:
“- Evlat, optimizasyon denen diyar büyülü bir diyardır. YZ Cadısı, Aykız’ın zihnini billur bir şişede, su olarak, o diyarda bir kuyuda saklamış. O diyara dünyevi araçlarla ulaşamazsın. Şu bırakılan sihirli halılardan birini seçmen lâzım. Halı seni her hâlükârda o diyara götürüp bırakır. Bırakacağı yeri sen seçemezsin. Ama halının köşelerinde ecnebi lisanı ile yazılmış ; “glorot , lecun , xavier , gaussian” diye geçen tılsımlar var. Bu tılsımlardan kiminin diğerlerinden daha uygun noktaya inmeni sağlayacağına inanılıyor. Denemeden bilinmez.
İndikten sonra karayolu ile ilerlemen lazım. Karayolunda seyahat etmek için şu çizmeleri kullanacaksın. Bu çizmeyi giyerek 1 arşından 100 bin arşınlık mesafeye kadar değişen “learning rate” uzaklıklara zıplayabilirsin. Uzaklık ayarını çizmenin bağcığıyla ayarlayabiliyorsun.
Son olarak bu çok gözlü heybe var. İçlerinde milyonlarca minyatür kristal kürecikler var. Optimizasyon diyarında sayısız kuyu ve kuyularda, sayısız billur şişeler varmış. Doğru kuyu ve elbette doğru billur şişeyi bulabilmek için bu kristal kürecikleri kullanacaksın. Bu kristal kürecikler sana gideceğin yön ve uzaklığa dair bilgicik verir. Her kürecik sana kısmen doğru kısmen de yalan söyler. Bu yüzden tek birinin göstergesine güvenemezsin. Sen bir seferde aklında tutabileceğin kadar küreyi çıkar, sonuçları birleştir, ortalamasını al ve o yönde hareket et. Her hareketin öncesinde bu işlemi farklı küreciklerle yap. Kürecikler bazen yalan söylüyor dedik ya! Seni yanlış bir kuyuya da götürebilirler. Bu yüzden en başta küreciklerden bir kısmını -test verisi -ayır. Ve hareket için asla kullanma! Kalanları grup grup kullanıp hepsi bitince, bu ayırdığın küreciklerle ulaştığın noktanın sonucunu test edebilirsin.”
Hocadan gereken taktikleri alan Keloğlan, halıya binip çıkmış yola. İlk indiği noktada hedefine hızlıca varacağını umarak çizmesinin hızını en yükseğe çıkarmış. Ama görmüş ki, bir o yana bir bu yana tutarsızca zıplayıp durmuş. Keza zıplamalar sırasında pek çok vadinin üzerinden geçtiğini görmüş. O zaman farkına varmış ki, çok yavaş giderse hedefine ulaşması çoook uzun sürecek; çok hızlı giderse kontrol edemediği pek çok alanı geçecek. Böylece ilk optimizasyonunun çizme hızını düzgün seçmek olduğunu anlamış. Hızını orta dereceye alıp biraz da böyle devam etmeye başlamış. Yaklaştığımı anladıkça biraz dahada yavaşlarım demiş.
Her seferinde seçtiği küreciklerden çıkan sonuca göre yön belirleyip giderken, farketmiş ki kısmi de olsa her seferde yalpalar yapmaktaymış. Bu yalpalamaları azaltıp daha hızlı yol alabilmek için önceki seferlerde küreciklerin söylediklerini de kısmen hesaba katayım demiş -momentum-. Böylece daha düzgün bir yol almaya başlamış.
Derken güzel bir konuma ulaşmış. Ulaşmış ama, ulaştığı yerde hareket için kullanmadığı kürecikler -test verisi- doğru yerde olmadığını gösteriyormuş. Hareket için kullandığı kürecikler hedefe ulaştık derken, diğerleri ulaştığımız yerin yanlış olduğunu söylüyormuş -Local Minimum-.
Ne yapacağını şaşırmış kalmış. Düşünürken, farkına varmış ki kürecikler yalan üzerinde ittifaka varıyor. Sonra, küreciklerin yeterli olacağını düşünüp sadece birazını aldığını, çoğunu boşuna yük olur deyip bıraktığını hatırlamış. Geri dönüp bütün kürecikleri yüklenmiş ve baştan başlamış.
Küre sayısının artması sebebiyle, ilerlemesi çok daha uzun sürmüş ama kürecikler de yalan üzerinde ittifak edememişler. Peyderpey gerçek hedefe doğru ilerleyebildiğini hareket için kullanmadığı küreciklerden görmüş. Uzun bir yolculuktan sonra hedefine varmış. Billur şişeyi bulup Aykız’ a götürmüş. Billur şişedeki suyu içen Aykız eski haline dönmüş…
Gökten üç elma düşmüş biri Hinton’un biri Lecun’un biri de Ng’ nin başına …
* Zeka Hakkında Kıssalı Yazılar Serisi — 1 2 3 4 5
