Sinir Ağları ve Derin Öğrenme — VI : İleri-Geri Yayılım
Hesap Diyagramları (Computation Graph)
Hesap diyagramları işlemi geri-yayılım (back-propagation) ve ileri-yayılım (forward-propagation) konusunu anlamak için hesapları görselleştirmeye yönelik uygulanan bir algoritma tasarımı yöntemi.
Yukarıdaki şekillerde verilen hesap diyagramları ileri ve geri yayılım için basitleştirilmiş bir gösterimi ifade etmektedir. En temel haliyle sunulan bu işlemler yerine aslında türev alma işlemleri kullanılacaktır.
Hesaplama Grafiklerinde Türev Alma
En temel amaç a, b ve c girdilerinin türevini bulmak. Bu işlem değişkenlerin birbirlerine göre türevleri alınarak gerçekleştirilir.
Türev Alma İşlemi
Türev alma işleminin bir çok kuralı bulunmaktadır. Bu kurallar arasından 2 tanesini baz alarak kullanacağız. Bunlardan ilki sabit ifadelerin türevleri ile ilgili olandır:
Şekil 1'de sabitin türevinin alınmasına ilişkin kural verilmektedir. Sabitin (sabit sayının) türevi 0 (sıfır) olarak kabul edilmektedir.
Sabitin türevi dışındaki bir diğer kural değişkene bağlı türev alma işlemidir. Şekil 2'de x’e göre türev alma işlemi verilmektedir.
Şekil 2'de verilen türev alma işleminde çarpımın türevi kullanılmaktadır. Çarpımın türevi kuralı “çarpım halindeki iki ifadeden önce birincisinin sonra da ikincisinin türevi alınarak toplanır” şeklindedir.
Bu durumda 2x ifadesinde önce 2'nin sonra ise x’in türevi alınarak toplanmalıdır. Daha önce 2'nin türevi sabit sayı olduğundan 0 olduğunu söylemiştik.
x’in türevi ise 1 olarak kabul edilmektedir. Bu durumda 0x+2.1 olduğundan 2x’in türevi 2 olarak elde edilmektedir. Bkz. Sekil-3
Verilen bu bilgiler ışığında geri yayılım yaparak a,b ve c’nin türevlerini bulalım.
Not: Eğer bu işlemleri yaparken denklemleri birbiri cinsinden yazmazsanız türev alma işlemini karıştırabilirsiniz. (Kagit-Kalem kullanmaniz tavsiye edilir :) )
J=3V olmakla birlikte aynı zamanda J=3(a+u) ve J=3(a+bc)’dir
