Zincir kuralı

İç içe iki fonksiyonun türevi (derivative), her birinin türevinden kurulur. Bu kurala zincir kuralı (chain rule) denir. $h(x) = f(g(x))$ için:

Yani dış fonksiyonun türevi $x$‘te değil, iç fonksiyonun çıktısı olan $g(x)$‘te hesaplanır. Sonuç, iç fonksiyonun $x$‘teki türeviyle çarpılır.

chain_rule(outer, inner, x) fonksiyonunu yaz. Girdiler şunlardır:

• outer: dış fonksiyonu ve türevini taşıyan bir (f, df) demeti (tuple).
• inner: iç fonksiyonu ve türevini taşıyan bir (g, dg) tuple’ı.
• x: tek bir sayı.

f, df, g ve dg, tek bir sayı alıp tek bir sayı döndüren Python fonksiyonlarıdır. $h$‘nin $x$ noktasındaki türevini tek bir float olarak döndür.

Test durumlarında her tuple bir isimle verilir. Testler her ismi (fonksiyon, türevi) tuple’ına çevirir. İkisini outer ile inner olarak senin fonksiyonuna verir:

Örnekler

Gereksinimler

• outer ve inner, (fonksiyon, türevi) biçiminde birer tuple’dır. outer = (f, df) ve inner = (g, dg). x tek bir sayıdır.
• Dönüş değeri tek bir float: tuple ya da array değil. np.float64 de kabul edilir. float(...) ile çevirmek zorunda değilsin.
• df, $x$‘te değil $g(x)$‘te çağrılır. dg ise $x$‘te çağrılır.

Değişim iki adımda iletilir, bu yüzden toplam oran iki oranın çarpımıdır.

1. $x$ biraz değişince $g(x)$, bu değişimin $g'(x)$ katı kadar değişir.
2. $g(x)$ değişince de $f$, onun $f'(g(x))$ katı kadar değişir.

$h(x) = (3x + 1)^2$ ve $x = 2$ için hesap şöyledir:

1. İç fonksiyon: $g(2) = 7$.
2. Dış türev: $f'(7) = 2 \cdot 7 = 14$.
3. İç türev: $g'(2) = 3$.
4. Çarpım: $h'(2) = 14 \cdot 3 = 42$.

Parantezi açarak kontrol edebilirsin. $h(x) = 9x^2 + 6x + 1$, $h'(x) = 18x + 6$ ve $h'(2) = 42$.

Bir sinir ağı da iç içe geçmiş fonksiyonlardan oluşur. Her layer bir öncekinin çıktısını girdi olarak alır.

Geri yayılım (backpropagation), kaybın (loss) bir parametreye göre türevini hesaplar. Zinciri uçtan başa doğru izler ve her halkada bir çarpma ekler.

Daha fazlası için Geri yayılım dersine bak.

df iç fonksiyonun çıktısında, dg ise x’te çağrılır.

1. İç fonksiyonu $x$‘te çalıştır.
2. Dış türevi bu çıktıda hesapla.
3. İç türevle çarp.

def chain_rule(outer: tuple, inner: tuple, x: float) -> float:    _, df = outer    g, dg = inner    return float(df(g(x)) * dg(x))

Sık yapılan hata, dış türevi $x$‘te hesaplamaktır:

• df(x) * dg(x), 'kare' ve '3x+1' ile $x = 2$ için $4 \cdot 3 = 12$ verir.
• Doğrusu $14 \cdot 3 = 42$‘dir.
• Dış fonksiyonun girdisi $x$ değil, iç fonksiyonun çıktısıdır.