Outils pour utilisateurs

Outils du site


math:2:demo:moindres_carres_matriciel

Preuve : méthode matricielle des moindres carrés

L'espace vectoriel $\mathcal M_{n,1}(\R)$ est muni de son produit scalaire canonique.

  • Soit $f\colon\mathcal M_{p,1}(\R)\to\mathcal M_{n,1}(\R),\; X\mapsto AX$. Posons $F=\text{Im}(f)\subset\mathcal M_{n,1}(\R)$ et considérons la projection orthogonale $p_{F}\in\mathcal L(\mathcal M_{n,1}(\R))$ sur $F$. Comme $A$ est la matrice de $f$ dans les bases canoniques respectives de $\mathcal M_{p,1}(\R)$ et $\mathcal M_{n,1}(\R)$ alors :
    $$\dim(F)=\dim(\text{Im}(f))=\text{rg}(f)=\text{rg}(A)=p$$Ainsi, $g\colon\mathcal M_{p,1}(\R)\to F,\; X\mapsto f(X)=AX$ est bijective et $f$ est injective. Alors :
    $$\forall Y\in F,\;\exists!X\in\mathcal M_{p,1}(\R)\;/\: AX=f(X)=Y$$En particulier, pour $Y=p_F(B) \in F$, on en déduit qu'il existe une unique matrice $X_{0}\in\mathcal M_{p,1}(\R)$ telle que $f(X_{0})=p_{F}(B)$. Or :
    $$AX_{0}=p_{F}(B)\;\iff\;\|AX_{0}-B\|=\min\left\{ \|U-B\|\;|\, U\in F\right\} =\min\left\{ \|AX-B\|\;|\, X\in\mathcal M_{p,1}(\R)\right\}$$toujours par bijectivité de $g$ ce qui assure que $X_{0}$ est l'unique solution du problème.
  • De plus :
    $$\begin{array}{rcl} f(X_{0})=p_{F}(B) & \iff & f(X_{0})\in F\;\text{et}\; B-f(X_{0})\in F^{\perp} \\ & \iff & B-f(X_{0})\in F^{\perp} \\ & \iff & \forall Y\in F,\;\left\langle Y,B-f(X_{0})\right\rangle =0 \\ & \iff & \forall X\in\mathcal M_{p,1}(\R),\;\left\langle AX,B-f(X_{0})\right\rangle =0 \\ & \iff & \forall X\in\mathcal M_{p,1}(\R),\;{}^t(AX)(B-AX_{0})=0 \\ & \iff & \forall X\in\mathcal M_{p,1}(\R),\;{}^tX\left({}^tA(B-AX_{0})\right)=0 \\ & \iff & \forall X\in\mathcal M_{p,1}(\R),\;\left\langle X,{}^tA(B-AX_{0})\right\rangle =0 \\ & \iff & {}^tA(B-AX_{0})=\Theta \end{array}$$d'où le résultat : ${}^tAAX_{0}={}^tAB$.
math/2/demo/moindres_carres_matriciel.txt · Dernière modification : 2020/05/10 21:31 de 127.0.0.1