Najbolja L 2 aproksimacija

5.1 Najbolja L 2 aproksimacija

Pretpostavimo da je f ∈ C [a,b] i da je na [a, b] definiran skalarni produkt (5.1)

i odgovaraju´ca inducirana norma. Neka je nadalje ϕ 0 ,ϕ 1 ,...,ϕ n ∈C [a,b] sustav linearno nezavisnih funkcija. Promatramo problem aproksimacije funkcije f na potprostoru L(ϕ 0 ,ϕ 1 ,...,ϕ n ):

– da li postoji a ∗ ∈R n+1 , takav da bude F (a ∗ ) = min

F (a), gdje je

a∈R n +1

F (a) = # #

a i ϕ i (x) − f(x) dx ? (5.3) # i=0

Nuˇzan uvjet egzistencije vektora a ∗ ∈R n+1 je grad F (a ∗ ) = 0, tj. (ϕ 0 ,ϕ 0 )a ∗ 0 + (ϕ 0 ,ϕ 1 )a ∗ 1 + · · · + (ϕ 0 ,ϕ n )a ∗ n = (ϕ 0 ,f)

(ϕ 1 ,ϕ 0 )a ∗ 0 + (ϕ 1 ,ϕ 1 )a ∗ 1 + · · · + (ϕ 1 ,ϕ n )a ∗ n = (ϕ 1 ,f) (5.4)

(ϕ n ,ϕ 0 )a ∗ 0 + (ϕ n ,ϕ 1 )a ∗ 1 + · · · + (ϕ n ,ϕ n )a ∗ n = (ϕ n ,f) Sustav (5.4) nazivamo sustav normalnih jednadˇzbi. Matrica ovog sustava je tzv.

Gramova matrica linearno nezavisnih funkcija ϕ 0 ,ϕ 1 ,...,ϕ n , pa je kao takva poz- itivno definitna (vidi primjerice Kurepa (1981)). Istovremeno ta matrica pred- stavlja i Hessijan funkcije F . Dakle, funkcija F na skupu R n+1 postiˇze jedin- stveni globalni minimum a ∗ , koji moˇzemo dobiti rjeˇsavanjem sustava (5.4). Naj-

bolja aproksimacija f ∗ funkcije f na potprostoru L(ϕ 0 ,ϕ 1 ,...,ϕ n ) je prema tome

f ∗ =a ∗ 0 ϕ 0 +a ∗ 1 ϕ 1 +···+a ∗ n ϕ n . Primjer 5.1 Treba prona´ci najbolju L 2 aproksimaciju funkcije f (x) = e 2x ako je

x ∈ [0, 1] na potprostoru svih polinoma stupnja ≤ 1 (uz ω(x) = 1). Aproksimaciju f ∗ traˇzit ´cemo u obliku

0 ϕ 0 +a 1 ϕ 1 ,

ϕ i (x) = x i , i = 0, 1.

5.1 Najbolja L 2 aproksimacija

Lako se vidi da su u ovom sluˇcaju koeficijenti matrice sustava (5.4) zadani s

(ϕ i ,ϕ j )=

ϕ i (x)ϕ j (x)dx =

x i+j dx =

, i, j = 0, 1,

0 0 i+j+1

a vektor slobodnih koeficijenata

e 2 −1 e 2 +1 T

= (3.19453, 2.09726) T .

2 4 Rjeˇsenje sustava (5.4) je a ∗ 0 = 0.194528, a ∗ 1 = 6.0.

a) grafovi funkcija f i f ∗ b) E(x) = f (x) − f ∗ (x)

Slika 5.2 Aproksimacija funkcije f (x) = e 2x

Na Slici 5.2 prikazani su grafovi funkcija f i f ∗ , te graf funkcije pogreˇske E(x) = f (x) − f ∗ (x).

Primijetite da je matrica sustava u ovom primjeru poznata Hilbertova matrica. Ona se u literaturi obiˇcno uzima kao primjer loˇse uvjetovane matrice. Primjerice,

za n = 10, uvjetovanost Hilbertove matrice je 2 × 10 7 . Zato je traˇzenje najbolje L 2 aproksimacije rjeˇsavanjem sustava (5.4) ˇcesto puta nepouzdano.

Ako bi funkcije ϕ 0 ,ϕ 1 ,...,ϕ n ˇcinile ortogonalan sustav funkcija, tj. ako bi bilo (ϕ i ,ϕ j

onda bi matrica sustava (5.4) bila dijagonalna, a rjeˇsenje bi mogli eksplicitno zapisati

Primjer 5.2 Lako se moˇze pokazati (vidi primjerice Kurepa (1977)) da sustav funkcija

1, sin x, cos x, . . . , sin nx, cos nx,

ˇcini ortogonalan sustav funkcija na C [−π,π] uz ω(x) = 1 i da je √

2π, π, k = 1, . . . n.

5.1 Najbolja L 2 aproksimacija

Zadatak 5.1 Pokaˇzite da je sustav funkcija ϕ i (x) = cos ix, i = 0, 1, . . . , n, ortogo- nalan na [0, π] uz ω(x) = 1 i da je

i = 1, . . . n.

Zadatak 5.2 Pokaˇzite da je sustav funkcija ϕ $ i (x) = cos ix, i = 0, 1, . . . , n, defini- ran na D = x = 2i+1 π

n+1 2 : i = 0, 1, . . . , n ⊂ [0, π] ˇcini ortogonalan sustav sa skalarnim produktom

(f, g) =

f (x i )g(x i ),

Primjedba 5.2 Ako su f, g ortogonalne funkcije, onda za njih vrijedi Pitagorin teorem

Op´cenitije, za ortogonalan sustav ϕ 0 ,ϕ 1 ,...,ϕ n vrijedi

# i=0

i=0

Nadalje, kako je f − f ∗

okomit na L(ϕ 0 ,ϕ 1 ,...,ϕ n ) i kako je f ∗ = a ∗

i ϕ i , onda

i=0

je (f − f ∗ ,f ∗ )=0i

2 ∗ 2 2 (a ∗ ) 2 − 2(f, f 2 −

Iz (5.7) izravno slijedi poznata Besselova nejednakost

Primjedba 5.3 Budu´ci da je sustav funkcija iz Primjera 5.2, str. 95, ortogonalan za svaki n ∈ N, moˇzemo promatrati i beskonaˇcni ortogonalni sustav funkcija

1, sin x, cos x, . . . , sin nx, cos nx, . . . ,

i neku funkciju f pokuˇsati prikazati pomo´cu sume reda

F(x) :=

a k cos kx + b k sin kx, (5.9)

2 k=1

gdje je prema (5.5)

f (x) sin kx dx, π −π

f (x) dx, a k =

f (x) cos kx dx, b k =

5.1 Najbolja L 2 aproksimacija

Red (5.9) nazivamo Fourierov red, a brojeve a 0 ,a 1 ,b 1 , . . . Fourierovi koeficijenti funk- cije f . Kada ´ce red (5.9) za neki x 0 biti konvergentan i da li ´ce u tom sluˇcaju biti F(x 0 ) = f (x 0 ) odred¯eno je Dirichletovim teoremom (vidi primjerice Kurepa (1977)).

5.1.1 Ortogonalni polinomi Pretpostavimo da je na C [a,b] definiran skalarni produkt (5.1) s teˇzinskom

funkcijom ω. Neka je L(ϕ 0 ,ϕ 1 ,...,ϕ n ) potprostor razapet linearno nezavisnim funkcijama ϕ 0 ,ϕ 1 ,...,ϕ n . U tom potprostoru definirat ´cemo novu ortogonalnu bazu ψ 0 ,ψ 1 ,...,ψ n (Gram-Schmidtov postupak ortogonalizacije):

Budu´ci da je ψ k linearna kombinacija vektora ϕ 0 ,ϕ 1 ,...,ϕ k , za svaki k = 0, 1, . . . , n, vrijedi L(ϕ 0 ,ϕ 1 ,...,ϕ n ) = L(ψ 0 ,ψ 1 ,...,ψ n ). Zato najbolju aproksimaciju funkcije

f moˇzemo traˇziti kao linearnu kombinaciju ortogonalnih funkcija ψ 0 ,ψ 1 ,...,ψ n . Primjer 5.3 Neka je (·, ·) skalarni produkt definiran na C [−1,1] uz ω(x) = 1. Sustav

funkcija ϕ i (x) = x i , i = 0, 1, . . . , 5 ortogonalizirat ´cemo prema Gram-Schmidtovom postupku (5.11).

Niˇze navedenim Mathematica-programom dobivamo ψ 0 (x) = 1,

ψ 1 (x) = x,

ψ 2 (x) = x 2 − 1 3 , ψ 3 (x) = x 3 3 x, ψ 4 (x) = x 4 5 − (5.12) 6 2 3 10 3 5 5 − 7 x + 35 ψ 5 (x) = x − 9 x + 21 x.

(* Gram - Schmidtov postupak ortogonalizacije *) fi[i_, x_]:= x^(i-1); om[t_]:= 1; a=-1; b=1; n=6;

Do[ psi[i,t] = fi[i, t] - Sum[Integrate[om[t] fi[i,t] psi[j,t],{t,a,b}] psi[j,t]/ Integrate[om[t] psi[j,t]^2, {t,a,b}], {j,i-1}];

,{i,n}] ortpol = Table[{i-1, Simplify[psi[i,t]]}, {i,n}]; Print[TableForm[ortpol] ]

Polinomi (5.12) se do na konstantu podudaraju s poznatim Laguerreovim poli- nomima, koji se obiˇcno definiraju kao

P n (x) =

n &(x − 1) ', n ∈ N. (5.13)

n! dx

5.1 Najbolja L 2 aproksimacija

Zadatak 5.3 Pokaˇzite da za Legendreove polinome (5.13) vrijedi

a) Svojstvo ortogonalnosti

P m (x)P n (x) dx =

2n+1 , m = n, m, n = 0, 1, . . .

b) Legendreov polinom P n , n ≥ 1, u intervalu (−1, 1) ima n jednostrukih nulto- ˇcaka

Uputa: primijetite da je (x 2 − 1) ( x=−1,1 = 0 i koristite Rolleov teorem.

c) P 0 (x) = 1, P 1 (x) = x, a za n = 1, 2, . . . vrijedi rekurzivna formula:

n+1 n−1 Primjedba 5.4 Uz pretpostavku da je poznat ortogonalan sustav ψ 0 ,ψ 1 ,...,ψ n na

intervalu [−1, 1], jednostavnom transformacijom

a+b γ : [a, b] −→ [−1, 1],

b−a moˇzemo dobiti sustav funkcija

b−a

ψ ˜ i (x) = ψ i (γ(x)) , i = 0, 1, . . . , n,

koji je ortogonalan na [a, b]. Zadatak 5.4 Koriste´ci Legendreove polinome odrediti najbolju L 2 aproksimaciju

funkcije f (x) = e 2x , x ∈ [0, 1] na potprostoru polinoma stupnja ≤ 1. Rezultate us- poredite s Primjerom 5.1.

Uputa: Koriste´ci transformaciju (5.14) na Legendreovim polinomima P 0 iP 1 dobi- vamo: ˜ ψ 0 (x) = 1, ˜ ψ 1 (x) = 2x − 1, pa je f ∗ =a ∗ 0 ·1+a ∗ 1 (2x − 1), gdje se a ∗ 0 ia ∗ 1 raˇcunaju prema (5.5).

5.1.2 Cebiˇ ˇ sevljevi polinomi

Sustav ortogonalnih polinoma na [−1, 1] s teˇzinskom funkcijom ω(x) = 1 √

1−x 2

nazivaju se ˇ Cebiˇsevljevi polinomi 1 . Mogu se definirati pomo´cu eksplicitne formule T n (x) = cos(n arccos x), n = 0, 1, . . . .

(5.15) Koriˇstenjem jednostavne relacije

cos(n + 1)ϕ + cos(n − 1)ϕ = 2 cos ϕ cos nϕ, n ∈ N,

induktivno zakljuˇcujemo da su T n polinomi stupnja n. Nadalje, koriste´ci supstitu- ciju ϕ = arccos x, dobivamo

π T i (x)T j (x) √

1 Oznaka polinoma “T” dolazi od engleske transkripcije prezimena ˇ Cebiˇsev: Tchebycheff

5.1 Najbolja L 2 aproksimacija

odakle neposredno slijedi ortogonalnost ˇ Cebiˇsevljevih polinoma (vidi Primjer 5.2, str. 95)

−1 −1 Slika 5.3 ˇ Cebiˇsevljevi polinomi T 6 iT 12 Cebiˇsevljevi polinomi imaju sljede´ca svojstva: ˇ

a) |T n (x)| ≤ 1, x ∈ [−1, 1], n = 0, 1, . . .;

b) ˇ Cebiˇsevljev polinom T n ima na intervalu [−1, 1] n razliˇcitih nultoˇcaka π

x k = cos

, k = 1, . . . , n;

n 2 Cebiˇsevljev polinom T c) ˇ n na intervalu [−1, 1] ima n + 1 razliˇcitih toˇcaka

u kojima naizmjeniˇcno postiˇze globalne minimume i maksimume;

d) T 0 (x) = 1, T 1 (x) = x, a za n = 1, 2, . . . vrijedi rekurzivna formula: T n+1 (x) = 2xT n (x) − T n−1 (x), n = 1, 2, . . . .

∗ k ,k=

0, 1, . . ., najbolje L 2 √ aproksimacije funkcije.

2 , k = 0, 1, . . ., a ∗

k = 2 π 0 f (ϕ) cos kϕ dϕ, k =

0, 1, . . . Zadatak 5.6 Nultoˇcke, kao i toˇcke u kojima ˇ Cebiˇsevljev polinom naizmjeniˇcno

postiˇze globalne minimume i maksimume nisu jednoliko razmjeˇstene na intervalu [−1, 1]. One su guˇs´ce raspored¯ene pri rubovima intervala, a rjed¯e oko srediˇsta. Oznaˇcite toˇcke x k ,ξ k , k = 0, 1, . . . , n za n = 10, tako da na trigonometrijskoj

kruˇznici najprije oznaˇcite toˇcke koje odgovaraju realnim brojevima 2k−1 π n 2 i kπ n ,k=

0, 1, . . . , n.

5.2 Najbolja L ∞ aproksimacija