Ana içerik

Çok Değişkenli Kalkülüs

Konu: Çok Değişkenli Kalkülüs > Ünite 3

Ders 2: Polinom Fonksiyonlarda Tahminlerde Bulunma

İkinci dereceden kestirim

İkinci dereceden kestirimler yerel doğrusallaştırma kavramını genişletir ve bir fonksiyonun daha yakın bir kestirimini verir.

Arka plan:

Neye ulaşıyoruz

Yerel doğrusallaştırmada olduğu gibi hedef, potansiyel olarak karmaşık bir çok değişkenli

f

fonksiyonuna,

x_{0}

vektörü olarak yazacağım bir girdinin yakınında yakınsamaktır. İkinci dereceden bir kestirim, ikinci kısmi türevlerin sağladığı bilgiyi kullanarak, bunu yerel doğrusallaştırmadan daha iyi yapar.

Vektör olmayan form

f

'nin girdisinin iki boyutlu olduğu özel durumda ve bir

(x_{0}, y_{0})

noktasının yakınında kestirirken, aşağıda ikinci dereceden kestirimin sonunda böyle gözükeceğini göreceksiniz:

\begin{aligned} Q_{f} (x, y) & = f (x_{0}, y_{0}) + \\ f_{x} (x_{0}, y_{0}) (x - x_{0}) + f_{y} (x_{0}, y_{0}) (y - y_{0}) + \\ \frac{1}{2} f_{x x} (x_{0}, y_{0}) (x - x_{0})^{2} + \\ f_{x y} (x_{0}, y_{0}) (x - x_{0}) (y - y_{0}) + \\ \frac{1}{2} f_{y y} (x_{0}, y_{0}) (y - y_{0})^{2} \end{aligned}

Vektör formu:

Bunun genel formu, herhangi bir tür çok boyutlu girdisi olan skaler değerli bir

f

fonksiyonu için, bu kestirim şöyle gözükür:

Q_{f} (x) = \underset{Sabit}{\underset{⏟}{f (x_{0})}} + \underset{Doğrusal terim}{\underset{⏟}{\nabla f (x_{0}) \cdot (x - x_{0})}} + \underset{İkinci dereceden terim}{\underset{⏟}{\frac{1}{2} (x - x_{0})^{T} H_{f} (x_{0}) (x - x_{0})}}

Biraz karmaşık gözüktüğünü biliyorum, ancak parça parça çözeceğiz. her terimin kısa bir özeti böyledir:

$f$ ‍ çok boyutlu bir girdisi ve skaler bir çıktısı olan bir fonksiyondur.
$\nabla f (x_{0})$ ‍, $f$ ‍'nin $x_{0}$ ‍'da değeri bulunan gradyanıdır.
$H_{f} (x_{0})$ ‍ $f$ ‍'nin $x_{0}$ ‍'da değeri bulunan Hessian matrisidir.
$x_{0}$ ‍ vektörü, yakınında kestirdiğimiz belirli bir girdidir.
$x$ ‍ vektörü girdi değişkenini temsil eder.
Kestirim fonksiyonu $Q_{f}$ ‍'nin değeri, $f$ ‍'nin $x_{0}$ ‍'daki değeriyle aynıdır, bu noktada tüm kısmi türevlerinin değerleri $f$ ‍'ninkilerle aynıdır ve bu noktada ikinci kısmi türevlerinin değerleri $f$ ‍'ninkilerle aynıdır.

Sıkılaşan kestirimler

Diyelim ki, size iki girdi ve bir çıktılı bir

f (x, y)

fonksiyonu verildi, şöyle ki

$f (x, y) = \sin (x) \cos (y)$ ‍

Khan Akademi video wrapper

Video metni

Hedef belirli bir

(x_{0}, y_{0})

noktası yakınında

f (x, y)

'ye yakınsayan daha basit bir fonksiyon bulmaktır. Örneğin,

$(x_{0}, y_{0}) = (\frac{π}{3}, \frac{π}{6})$ ‍

Sıfır dereceden kestirme

En saf kestirim

f

'nin

(x_{0}, y_{0})

'daki değerine her yerde eşit olan bir sabit fonksiyon olur. Buna "

0.

-mertebeden kestirim" deriz.

Örneğimizde:

\begin{aligned} C (x, y) & = \sin (\frac{π}{3}) \cos (\frac{π}{6}) \\ = (\frac{\sqrt{3}}{2}) \frac{\sqrt{3}}{2} \\ = \frac{3}{4} \end{aligned}

Soyut olarak yazıldığında:

$C (x, y) = f (x_{0}, y_{0}) \leftarrow Sabit fonksiyon$ ‍

Grafiksel olarak:

Bu kestirim fonksiyonunun grafiği,

C (x, y)

, fonksiyonumuzun grafiğinden

(x_{0}, y_{0}, f (x_{0}, y_{0}))

noktasından geçen düz bir düzlemdir. Aşağıda

(x_{0}, y_{0})

noktasını çevirdikçe, kestirimin nasıl değiştiğini gösteren bir video bulabilirsiniz.

Khan Akademi video wrapper

Video metni

f

grafiği maviyle çizilmiştir, kestirimin grafiği beyazdır, ve

(x_{0}, y_{0}, f (x_{0}, y_{0}))

noktası kırmızı bir nokta olarak gösterilmiştir.

Birinci dereceden kestirme

Sabit fonksiyon sıfırıncı mertebeden kestirim pek iyi değildir.

f (x, y)

'ye

(x_{0}, y_{0})

noktasında eşit olması garantidir, ama hepsi bu kadar. Bunun bir adım daha iyisi, yerel doğrusallaştırma kullanmaktır, buna aynı zamanda "Birinci mertebeden kestirim" de denir.

Örneğimizde:

$L_{f} (x, y) = \frac{3}{4} + \frac{\sqrt{3}}{4} (x - \frac{π}{3}) + \frac{- \sqrt{3}}{4} (y - \frac{π}{6})$ ‍

Soyut olarak yazıldığında:

$L_{f} (x, y) = f (x_{0}, y_{0}) + f_{x} (x_{0}, y_{0}) (x - x_{0}) + f_{y} (x_{0}, y_{0}) (y - y_{0})$ ‍

Burada

f_{x}

f_{y}

f

'nin kısmi türevlerini belirtir.

Grafiksel olarak:

Bir yerel doğrusallaştırmanın grafiği,

f

'nin grafiğine

(x_{0}, y_{0}, f (x_{0}, y_{0}))

noktasında teğet olan bir düzlemdir.

(x_{0}, y_{0})

noktası etrafında hareket ettikçe, bu kestirmenin nasıl değiştiğini gösteren bir videoyu burada bulabilirsiniz:

Khan Akademi video wrapper

Video metni

İkinci dereceden kestirme

Daha da iyisi ikinci dereceden bir kestirimdir, buna aynı zamanda "ikinci mertebeden kestirim" de denir.

Bu makalenin geri kalanı, böyle kestirimlerin analitik formunu bulma ve anlamaya adanmıştır; ama dalmadan önce, böyle kestirimlerin grafiksel olarak neye benzediğine bakalım. Bu kestirimleri

(x_{0}, y_{0}, f (x_{0}, y_{0}))

noktasında grafiği sarıyormuş gibi düşünebilirsiniz.

Khan Akademi video wrapper

Video metni

"İkinci dereceden" iki değişkenin çarpımı anlamına gelir

Tek değişkenli fonksiyonlarda "ikinci dereceden" ifadesi,

x^{2}

teriminde olduğu gibi değişkenin karesinin alındığı durumu kasteder. Birden çok değişkenle, "ikinci dereceden" sadece

x^{2}

y^{2}

gibi kareli terimleri belirtmez,

x y

gibi iki ayrı değişkenin çarpımını içeren terimleri de kapsar.

Genelde, birkaç şeyin çarpımı olan

3 x^{2} y^{3}

gibi bir terimin "mertebesi", o terimde çarpılan toplam değişken sayısıdır. Bu durumda, mertebe

5

olacaktır: İki

x

, üç

y

ve sabitin önemi yoktur.

İkinci dereceden fonksiyonların grafikleri

İkinci dereceden fonksiyonları düşünmenin bir yolu, bükeyliklerini düşünmektir, bu da hareket ettiğiniz yöne bağlı olabilir.

Fonksiyonda dışbükeylik varsa,

f (x, y) = x^{2} + y^{2}

'de olduğu gibi, grafik şuna benzer:

Üç boyutlu bir parabol olan bu şekil, paraboloid olarak adlandırılır.

Eğer fonksiyon bir yönde içbükeyse ve başka bir yönde doğrusalsa, grafik uzayda sürüklenen ve yüzey çizen bir parabolik eğriye benzer. Örneğin,

f (x, y) = x^{2} + y

durumunda bu ortaya çıkar:

Son olarak, bir yönde giderken grafik içbükey ve başka bir yönde giderken dışbükeyse,

f (x, y) = x^{2} - y^{2}

'de olduğu gibi, grafik biraz eyere benzer. Böyle bir grafik, bunun gibi gözükür:

Khan Akademi video wrapper

Video metni

Yerel doğrusallaştırma tarifini hatırlatma

f

fonksiyonunun

(x_{0}, y_{0})

noktası yakınında ikinci dereceden kestirimini yazmak için, yerel doğrusallaştırmadan hareket ederiz:

$L_{f} (x, y) = \underset{Sabit terim}{\underset{⏟}{f (x_{0}, y_{0})}} + \underset{Doğrusal terimler}{\underset{⏟}{f_{x} (x_{0}, y_{0}) (x - x_{0}) + f_{y} (x_{0}, y_{0}) (y - y_{0})}}$ ‍

Yerel doğrusallaştırma bulmanın tarifini hatırlayalım, çünkü bu süreç ikinci dereceden kestirimlerle benzerlik gösterir.

$f (x_{0}, y_{0})$ ‍, sabitiyle başlayın ki, en azından kestirimimiz $f$ ‍ ile $(x_{0}, y_{0})$ ‍ noktasında eşleşsin.
$f_{x} (x_{0}, y_{0}) (x - x_{0})$ ‍ ve $f_{y} (x_{0}, y_{0}) (y - y_{0})$ ‍ doğrusal terimlerini ekleyin.
Kestirimimizin $(x_{0}, y_{0})$ ‍ noktasında $f$ ‍ ile aynı kısmi türevlere sahip olduğunu garantilemek için, $f_{x} (x_{0}, y_{0})$ ‍ ve $f_{y} (x_{0}, y_{0})$ ‍ sabitlerini kullanın.
Sadece $x$ ‍ ve $y$ ‍ yerine $(x - x_{0})$ ‍ ve $(y - y_{0})$ ‍ terimlerini kullanın ki, kestirimimizin $(x_{0}, y_{0})$ ‍ noktasında $f (x_{0}, y_{0})$ ‍'a eşit olmasını bozmayalım.

İkinci dereceden kestirimi bulma

İkinci dereceden yaklaşım için

(x - x_{0})^{2}

(x - x_{0}) (y - y_{0})

(y - y_{0})^{2}

ikinci dereceden terimleri toplarız ve şimdilik katsayılarını birazdan çözeceğimiz

a

b

c

sabitleri olarak yazarız:

\begin{aligned} Q_{f} (x, y) & = \underset{0 parçayı düzenleyin}{\underset{⏟}{f (x_{0}, y_{0})}} + \\ \underset{1 parçayı düzenleyin}{\underset{⏟}{f_{x} (x_{0}, y_{0}) (x - x_{0}) + f_{y} (x_{0}, y_{0}) (y - y_{0})}} + \\ \underset{İkinci dereceden parça}{\underset{⏟}{a (x - x_{0})^{2} + b (x - x_{0}) (y - y_{0}) + c (y - y_{0})^{2}}} \end{aligned}

Yerel doğrusallaştırmanın

(x_{0}, y_{0})

'da

f

ile aynı kısmi türevlere sahip olmasını sağladığımız gibi, ikinci dereceden kestirimimizin bu noktada

f

ile aynı ikinci mertebeden kısmi türevlere sahip olmasını istiyoruz.

Yukarıda

Q_{f}

'yi yazmamızla ilgili güzel şey, ikinci kısmi türevin

\frac{\partial^{2} Q_{f}}{\partial x^{2}}

sadece

a (x - x_{0})^{2}

terimine bağlı olmasıdır.

Bunu deneyin! Üstteki $Q_{f} (x, y)$ ‍ ifadesinde her terimin $x$ ‍'e göre ikinci kısmi türevini alın ve $a (x - x_{0})^{2}$ ‍ terimi hariç hepsinin sıfıra gittiğinin farkına varın.

Bunu gerçekten denediniz mi? Ciddiyim, bunun nedenini düşünmek için bir dakikanızı ayırın.

Q_{f}

'nin neden ifade edildiği şekilde ifade edildiğini anlamaya gerçekten yardımcı olur.

Bu bilgi güzeldir çünkü bu kocaman ifadenin ikinci kısmi türevini almak yerine, bunu şu şekilde görebilirsiniz:

\begin{aligned} \frac{\partial^{2} Q_{f}}{\partial x^{2}} (x, y) & = (Birkaç 0) + \frac{\partial^{2}}{\partial x^{2}} a (x - x_{0})^{2} + (daha çok 0) \\ = \frac{\partial}{\partial x} 2 a (x - x_{0}) \\ = 2 a \end{aligned}

Hedefimiz bunun

(x_{0}, y_{0})

noktasında

f_{x x} (x, y)

ile eşleşmesi olduğundan,

a

'yı böyle bulabilirsiniz:

$a = \frac{1}{2} f_{x x} (x_{0}, y_{0})$ ‍

Kendinizi sınayın: Benzer bir mantık kullanarak

b

c

sabitlerinin ne olması gerektiğini bulun.

[Çözüm]

Şimdi son ikinci dereceden kestirimimizi, altı teriminin hepsi

f

'nin

(x_{0}, y_{0})

'daki davranışını taklit edecek şekilde yazabiliriz:

\begin{aligned} Q_{f} (x, y) & = f (x_{0}, y_{0}) + \\ f_{x} (x_{0}, y_{0}) (x - x_{0}) + f_{y} (x_{0}, y_{0}) (y - y_{0}) + \\ \frac{1}{2} f_{x x} (x_{0}, y_{0}) (x - x_{0})^{2} + \\ f_{x y} (x_{0}, y_{0}) (x - x_{0}) (y - y_{0}) + \\ \frac{1}{2} f_{y y} (x_{0}, y_{0}) (y - y_{0})^{2} \end{aligned}

Örnek: $\sin (x) \cos (y)$ ‍'nin kestirimi

Bu canavarı iş başında görmek için, bunu giriş bölümündeki fonksiyonda deneyelim.

Problem: İkinci dereceden kestirimini bulunuz

\begin{array}{r} f (x, y) = \sin (x) \cos (y) \end{array}

(x, y) = (\frac{π}{3}, \frac{π}{6})

noktası etrafında.

Çözüm:

Gerekli tüm bilgiyi toplamak için,

f (x, y) = \sin (x) \cos (y)

'in ve tüm kısmi türevlerinin ve tümikinci kısmi türevlerinin

(\frac{π}{3}, \frac{π}{6})

noktasındaki değerini bulmanız gerekir.

$f (\frac{π}{3}, \frac{π}{6}) =$ ‍

[Cevap]

$f_{x} (x, y) =$ ‍
$f_{x} (\frac{π}{3}, \frac{π}{6}) =$ ‍

[Cevap]

$f_{y} (x, y) =$ ‍
$f_{y} (\frac{π}{3}, \frac{π}{6}) =$ ‍

[Cevap]

$f_{x x} (x, y) =$ ‍
$f_{x x} (\frac{π}{3}, \frac{π}{6}) =$ ‍

[Cevap]

$f_{x y} (x, y) =$ ‍
$f_{x y} (\frac{π}{3}, \frac{π}{6}) =$ ‍

[Cevap]

$f_{y y} (x, y) =$ ‍
$f_{y y} (\frac{π}{3}, \frac{π}{6}) =$ ‍

[Cevap]

Az kaldı! Son adım olarak, bu değerleri ikinci dereceden kestirim formülüne uygulayın.

[Cevap]

Buna göre, örneğin ikinci dereceden kestirimlerin animasyonunu üretmek için, grafik yazılımına koymak zorunda olduğum fomül buydu.

Khan Akademi video wrapper

Video metni

Hesyanla vektör notasyonu

İkinci dereceden kestirim ifadesinin uzun olduğunu söylemeye gerek yok. Şimdi

f

'nin üç girdisi,

x

y

z

olduğunu hayal edin. Bunun nasıl olduğunu prensip olarak hayal edebilirsiniz,

f_{z}

f_{x z}

f_{z z}

, vb. içeren terimlerin toplamı; yani

3

kısmi türevin ve

9

ikinci kısmi türevin tümü. Ancak bu tam bir kabus olurdu!

Şimdi

100

girdili bir fonksiyonun ikinci dereceden kestirimini bulan bir program yazdığınızı düşünün. Delilik!

Aslında bu kadar da kötü olması gerekmez. Prensip olarak bu kadar karmaşık olan bir şey, notasyonda da o kadar karmaşık olmamalıdır. Elbette ikinci dereceden kestirimler biraz karmaşıktır, ama saçma değillerdir.

Vektörler ve matrisleri, özellikle

f

'nin gradyan ve Hessianını kullanarak

Q_{f}

ikinci dereceden kestirimini şöyle yazabiliriz:

\begin{aligned} Q_{f} (x) & = \underset{Sabit}{\underset{⏟}{f (x_{0})}} + \underset{Doğrusal terim}{\underset{⏟}{\nabla f (x_{0}) \cdot (x - x_{0})}} + \underset{İkinci dereceden terim}{\underset{⏟}{\frac{1}{2} (x - x_{0})^{T} H_{f} (x_{0}) (x - x_{0})}} \end{aligned}

Bunu analiz edelim:

Koyu $x$ ‍ girdi değişken(ler) ini bir vektör olarak gösterir,
$\begin{aligned} x & = [\begin{array}{c} x \\ y \\ ⋮ \end{array}] \end{aligned}$ ‍

Ayrıca,

x_{0}

girdi uzayında belirli bir vektördür. Eğer bunun iki bileşeni varsa, bu

Q_{f}

formülü daha önce türettiğimizi yazmanın sadece farklı bir yoludur, ama başka herhangi bir boyutta bir vektörü de temsil edebilir.

$\nabla f (x_{0}) \cdot (x - x_{0})$ ‍ iç çarpımı $f_{x} (x_{0}) (x - x_{0})$ ‍, $f_{y} (x_{0}) (y - y_{0})$ ‍, vb. formunda tüm terimlerin toplamı olarak açılır. Bu yerel doğrusallaştırmanın vektör notasyonuna benzer değilse, görmek için $2$ ‍ boyut durumunda yapın!
[Çözüm]
$(x - x_{0})^{T}$ ‍ ifadesinde üstteki küçük $T$ ‍, ''devrik'' anlamını taşır. Yani, aşağıdaki gibi gözüken başlangıç vektörü $(x - x_{0})$ ‍'ı alırsınız:
$(x - x_{0}) = [\begin{matrix} x - x_{0} \\ y - y_{0} \end{matrix}]$ ‍

Sonra bunu çevirerek böyle bir şey elde edersiniz:

$(x - x_{0})^{T} = [\begin{matrix} x - x_{0} & y - y_{0} \end{matrix}]$ ‍

$H_{f} (x_{0})$ ‍ $f$ ‍'nin Hessian'ıdır.
$(x - x_{0})^{T} H_{f} (x_{0}) (x - x_{0})$ ‍ ifadesi, eğer daha önce buna benzer bir şeye rastlamadıysanız karmaşık görünebilir. İkinci dereceden terimleri bu şekilde ifade etme, vektör-analizi ve vektör cebirinde aslında çok yaygındır, onun için böyle ifadeleri hayatınızda en az birkaç kere açmak önemlidir. Örneğin, neye benzediğini görmek için, $x$ ‍'in iki boyutlu olduğu durumu açmayı deneyin.
[Çözüm]
Bunu üstte türettiğimiz vektörlü olmayan formülün ikinci dereceden kısmının tam olarak $2$ ‍ katı olarak bulmalısınız.

Ne anlamı var?

Gerçekte, ikinci dereceden bir kestirimi elle hesaplamak gerçekten zordur, ve az yanlışla bunu başarmak çok düzenli kalmayı gerektirir. Uygulamada, insanlar üstteki örnekteki gibi ikinci dereceden bir yaklaşımı nadiren yapar, ama bunun nasıl işe yaradığını bilmek en azından iki geniş nedenden dolayı yararlıdır:

Hesaplama: İkinci dereceden bir yaklaşımı hiç yazmanız gerekmese de, bir gün belirli bir fonksiyona uygulaması için bir bilgisayarı programlamanız gerekebilir. Veya başka birinin programına güveniyorsanız, bazı durumlarda kestirimin neden ve nasıl işe yaramadığını analiz etmeniz gerekebilir.
Teori: İkinci mertebeden bir yaklaşıma kaynak olmak, bir noktanın yakınındaki genel fonksiyonların davranışını mantığa oturtmamıza yardımcı olur. Bu, ileride noktanın yerel maksimum veya minimum olmasını bulurken faydalı olacaktır.

Tartışmaya katılmak ister misiniz?

Giriş Yap

Sıralama ölçütü:

Henüz gönderi yok.

İngilizce biliyor musunuz? Khan Academy'nin İngilizce sitesinde neler olduğunu görmek için buraya tıklayın.

Çok Değişkenli Kalkülüs

Konu: Çok Değişkenli Kalkülüs > Ünite 3

Arka plan:

Neye ulaşıyoruz

Sıkılaşan kestirimler

Sıfır dereceden kestirme

Birinci dereceden kestirme

İkinci dereceden kestirme

"İkinci dereceden" iki değişkenin çarpımı anlamına gelir

İkinci dereceden fonksiyonların grafikleri

Yerel doğrusallaştırma tarifini hatırlatma

İkinci dereceden kestirimi bulma

Örnek: sin⁡(x)cos⁡(y)‍ 'nin kestirimi

Hesyanla vektör notasyonu

Ne anlamı var?

Tartışmaya katılmak ister misiniz?

Örnek: $\sin (x) \cos (y)$ ‍'nin kestirimi