Matek Barnával
Ingyenes tananyagok

Lineáris algebra

Ortogonalitás és a Gram–Schmidt-eljárás

Merőleges vektorok, vetítés egy altérre, ortonormált bázis készítése lépésről lépésre, és az ortogonális mátrixok tulajdonságai.

13 perc olvasás

1. Skaláris szorzat, norma, merőlegesség

Az térbeli skaláris szorzat Rn\mathbb{R}^n-ben ugyanúgy megy, koordinátánkénti szorzatok összegeként, és ugyanazt adja: hosszt, szöget, merőlegességet. Ebben a leckében minden példát a síkban, két vektorral számolok végig, mert a Gram–Schmidt-eljárás gondolata már ott teljesen látszik; a háromdimenziós példa csak hosszabb, nem nehezebb.

Skaláris szorzat és norma

u⋅v=∑i=1nuivi,∥v∥=v⋅v,u⊥v  ⟺  u⋅v=0\mathbf u\cdot\mathbf v=\sum_{i=1}^nu_iv_i,\qquad \|\mathbf v\|=\sqrt{\mathbf v\cdot\mathbf v},\qquad \mathbf u\perp\mathbf v\iff\mathbf u\cdot\mathbf v=0

Két vektor szögét a Cauchy–Schwarz-egyenlőtlenség teszi értelmessé: ∣u⋅v∣≤∥u∥∥v∥|\mathbf u\cdot\mathbf v|\le\|\mathbf u\|\|\mathbf v\|, tehát a hányados [−1;1][-1;1]-ben van, és koszinusznak nevezhető.

Elakadtál ennél a résznél?

Egy órán megnézzük, pontosan hol csúszik el, és addig gyakoroljuk, amíg magabiztos nem leszel benne.

Egyéni óra foglalásavagy 15 perc ingyenes konzultáció

2. Ortogonális és ortonormált rendszerek

Egy vektorrendszer ortogonális, ha páronként merőlegesek; ortonormált, ha ráadásul mind egységnyi hosszú. Ortogonális nemnulla vektorok mindig függetlenek, tehát elegendő számú ortogonális vektor bázis. Az ilyen bázis a legkényelmesebb, mert a koordinátákat nem egyenletrendszerrel, hanem skaláris szorzattal kapjuk:

Koordináták ortonormált bázisban

x=(x⋅e1) e1+(x⋅e2) e2+⋯+(x⋅en) en\mathbf x=(\mathbf x\cdot\mathbf e_1)\,\mathbf e_1+(\mathbf x\cdot\mathbf e_2)\,\mathbf e_2+\cdots+(\mathbf x\cdot\mathbf e_n)\,\mathbf e_n

Egy egyszerű példa: elforgatott bázis a síkban

Az e1=12(1;1)\mathbf e_1=\frac{1}{\sqrt2}(1;1) és e2=12(−1;1)\mathbf e_2=\frac{1}{\sqrt2}(-1;1) pár ortonormált: merőlegesek (−1+1=0-1+1=0) és egységnyiek. Az x=(3;1)\mathbf x=(3;1) koordinátái ebben a bázisban két skaláris szorzat: x⋅e1=42\mathbf x\cdot\mathbf e_1=\frac{4}{\sqrt2}, x⋅e2=−22\mathbf x\cdot\mathbf e_2=\frac{-2}{\sqrt2}. Ellenőrzés: 42⋅(1;1)2+−22⋅(−1;1)2=(2;2)+(1;−1)=(3;1)\frac{4}{\sqrt2}\cdot\frac{(1;1)}{\sqrt2}+\frac{-2}{\sqrt2}\cdot\frac{(-1;1)}{\sqrt2}=(2;2)+(1;-1)=(3;1). Egyenletrendszer nélkül, két szorzással megvolt.

Ugyanez az elv adja a Fourier-együtthatókat: a szinuszok és koszinuszok ortogonális rendszert alkotnak a függvények terében, és az együttható a függvény „skaláris szorzata” az adott bázisfüggvénnyel.

3. Merőleges vetítés

Egy v\mathbf v vektor vetülete az u\mathbf u irányára az a u\mathbf u-val párhuzamos vektor, ami után a maradék merőleges u\mathbf u-ra:

Vetítés egy irányra

proj⁡uv=v⋅uu⋅u u,v−proj⁡uv ⊥ u\operatorname{proj}_{\mathbf u}\mathbf v=\frac{\mathbf v\cdot\mathbf u}{\mathbf u\cdot\mathbf u}\,\mathbf u,\qquad \mathbf v-\operatorname{proj}_{\mathbf u}\mathbf v\ \perp\ \mathbf u

Egy egyszerű példa

Vetítsük a v=(3;1)\mathbf v=(3;1)-et az u=(1;1)\mathbf u=(1;1) irányra: v⋅uu⋅u=42=2\frac{\mathbf v\cdot\mathbf u}{\mathbf u\cdot\mathbf u}=\frac{4}{2}=2, tehát a vetület 2 (1;1)=(2;2)2\,(1;1)=(2;2). A maradék (3;1)−(2;2)=(1;−1)(3;1)-(2;2)=(1;-1), ami tényleg merőleges az (1;1)(1;1)-re. Rajzold fel: a (3;1)(3;1) „árnyéka” a szögfelezőn a (2;2)(2;2), és ami kilóg belőle, az merőlegesen áll rá. Ha az u\mathbf u egységvektor lenne, a nevező 1, és a képlet a koordinátaképletre egyszerűsödik.

Altérre vetítésnél, ha az altérnek ortogonális bázisa van, a vetület az egyes irányokra vett vetületek összege. Ez a Gram–Schmidt-eljárás motorja: vonjuk ki a vektorból a már kész irányokra eső vetületeit, és ami marad, az merőleges mindegyikre.

4. A Gram–Schmidt-eljárás

Gram–Schmidt

u1=v1,uk=vk−∑j<kvk⋅ujuj⋅uj uj,ek=uk∥uk∥\mathbf u_1=\mathbf v_1,\qquad \mathbf u_k=\mathbf v_k-\sum_{j<k}\frac{\mathbf v_k\cdot\mathbf u_j}{\mathbf u_j\cdot\mathbf u_j}\,\mathbf u_j,\qquad \mathbf e_k=\frac{\mathbf u_k}{\|\mathbf u_k\|}

Egy egyszerű példa: két vektor a síkban

v1=(1;1)\mathbf v_1=(1;1), v2=(3;1)\mathbf v_2=(3;1). Az első marad: u1=(1;1)\mathbf u_1=(1;1). A másodikból kivonjuk az első irányra eső vetületét, amit az előbb kiszámoltunk: u2=(3;1)−(2;2)=(1;−1)\mathbf u_2=(3;1)-(2;2)=(1;-1). Normálva: e1=(1;1)2\mathbf e_1=\frac{(1;1)}{\sqrt2}, e2=(1;−1)2\mathbf e_2=\frac{(1;-1)}{\sqrt2}. Két ferde vektorból két merőleges egységvektor lett, ugyanazt a síkot feszítik ki. Három vektornál a harmadikból már két vetületet vonunk ki, ennyi a különbség:

Ortonormált bázis három vektorból

v1=(1;1;0)\mathbf v_1=(1;1;0), v2=(1;0;1)\mathbf v_2=(1;0;1), v3=(0;1;1)\mathbf v_3=(0;1;1).

  1. u1=(1;1;0)\mathbf u_1=(1;1;0), u1⋅u1=2\mathbf u_1\cdot\mathbf u_1=2.
  2. v2⋅u1=1\mathbf v_2\cdot\mathbf u_1=1, tehát
    u2=(1;0;1)−12(1;1;0)=(12; −12; 1),u2⋅u2=32\mathbf u_2=(1;0;1)-\tfrac12(1;1;0)=\left(\tfrac12;\,-\tfrac12;\,1\right),\qquad \mathbf u_2\cdot\mathbf u_2=\tfrac32
  3. v3⋅u1=1\mathbf v_3\cdot\mathbf u_1=1, v3⋅u2=−12+1=12\mathbf v_3\cdot\mathbf u_2=-\tfrac12+1=\tfrac12, tehát
    u3=(0;1;1)−12(1;1;0)−1/23/2(12;−12;1)=(0;1;1)−(12;12;0)−(16;−16;13)=(−23; 23; 23)\mathbf u_3=(0;1;1)-\tfrac12(1;1;0)-\tfrac{1/2}{3/2}\left(\tfrac12;-\tfrac12;1\right)=(0;1;1)-\left(\tfrac12;\tfrac12;0\right)-\left(\tfrac16;-\tfrac16;\tfrac13\right)=\left(-\tfrac23;\,\tfrac23;\,\tfrac23\right)
  4. Ellenőrzés: u3⋅u1=−23+23=0\mathbf u_3\cdot\mathbf u_1=-\frac23+\frac23=0, u3⋅u2=−13−13+23=0\mathbf u_3\cdot\mathbf u_2=-\frac13-\frac13+\frac23=0. Rendben.
  5. Normálás:
    e1=(1;1;0)2,e2=(1;−1;2)6,e3=(−1;1;1)3\mathbf e_1=\frac{(1;1;0)}{\sqrt2},\qquad \mathbf e_2=\frac{(1;-1;2)}{\sqrt6},\qquad \mathbf e_3=\frac{(-1;1;1)}{\sqrt3}

A törtek elkerülése

Az uk\mathbf u_k-t bármikor szabad egy számmal szorozni, mert csak az iránya számít: a (12;−12;1)\left(\frac12;-\frac12;1\right) helyett az (1;−1;2)(1;-1;2)-vel számolva a következő lépés törtmentes. A végén úgyis normálunk.

5. Ortogonális mátrixok

Ha egy ortonormált rendszert egy mátrix oszlopaiba írunk, ortogonális mátrixot kapunk. Ennek az inverze a transzponáltja, ezért invertálni ingyen lehet:

Ortogonális mátrix

QTQ=I⟺Q−1=QT,∥Qx∥=∥x∥,det⁡Q=±1Q^{T}Q=I\quad\Longleftrightarrow\quad Q^{-1}=Q^{T},\qquad \|Q\mathbf x\|=\|\mathbf x\|,\qquad \det Q=\pm1

Egy egyszerű példa

Az előbbi e1,e2\mathbf e_1,\mathbf e_2 párból: Q=12(111−1)Q=\frac{1}{\sqrt2}\begin{pmatrix}1&1\\1&-1\end{pmatrix}. Szorozd össze a transzponáltjával: QTQ=12(2002)=IQ^{T}Q=\frac12\begin{pmatrix}2&0\\0&2\end{pmatrix}=I, tehát tényleg Q−1=QTQ^{-1}=Q^{T}, itt ráadásul QT=QQ^{T}=Q. A determinánsa 12(−1−1)=−1\frac12(-1-1)=-1: ez egy tükrözés (a szögfelezőre), nem forgatás.

Az ortogonális mátrix hossz- és szögtartó leképezés: forgatás (det⁡=1\det=1) vagy tükrözés (det⁡=−1\det=-1). A forgatásmátrix oszlopai valóban egységnyiek és merőlegesek. A Gram–Schmidt mátrixnyelven a QRQR-felbontás: A=QRA=QR, ahol QQ ortogonális, RR felső háromszög.

Legkisebb négyzetek

Ha az Ax=bA\mathbf x=\mathbf b rendszernek nincs megoldása (több egyenlet, mint ismeretlen), a legjobb közelítés az, amelyiknél AxA\mathbf x a b\mathbf b vetülete az oszloptérre. Ekkor a hiba merőleges az oszlopokra, amiből a normálegyenlet adódik: ATA x=ATbA^{T}A\,\mathbf x=A^{T}\mathbf b. A lineáris regresszió képletei pontosan ebből jönnek.

6. Tipikus hibák

  • Vetítés az eredeti vj\mathbf v_j-kre. A Gram–Schmidtben a már elkészült uj\mathbf u_j-kre vetítünk, nem az eredeti vektorokra.
  • Nevező nélkül. A vetület együtthatója v⋅uu⋅u\frac{\mathbf v\cdot\mathbf u}{\mathbf u\cdot\mathbf u}; a nevező csak akkor 1, ha u\mathbf u már egységvektor.
  • Normálás közben. Vagy a végén normálj mindent, vagy minden lépésben; ha keverve, a képlet nevezője elcsúszik.
  • Ortogonális mátrix determinánsa. Nem feltétlenül 1; tükrözésnél −1-1. Az ortogonalitás QTQ=IQ^TQ=I, nem det⁡Q=1\det Q=1.

Elakadtál menet közben?

Egy tananyag megmutatja, hogyan működik a dolog. Azt viszont, hogy pontosan hol csúszik el nálad, egy óra alatt derítjük ki. Foglalj egy alkalmat, vagy beszéljük meg egy ingyenes konzultáción, mire van szükséged.

Egyéni óra foglalásaIngyenes konzultáció