Soit $f\colon\mathcal M_{p,1}(\R)\to\mathcal M_{n,1}(\R),\; X\mapsto AX$. Posons $F=\text{Im}(f)\subset\mathcal M_{n,1}(\R)$ et considérons la projection orthogonale $p_{F}\in\mathcal L(\mathcal M_{n,1}(\R))$ sur $F$. Comme $A$ est la matrice de $f$ dans les bases canoniques respectives de $\mathcal M_{p,1}(\R)$ et $\mathcal M_{n,1}(\R)$ alors :
$$\dim(F)=\dim(\text{Im}(f))=\text{rg}(f)=\text{rg}(A)=p$$Ainsi, $g\colon\mathcal M_{p,1}(\R)\to F,\; X\mapsto f(X)=AX$ est bijective et $f$ est injective. Alors :
$$\forall Y\in F,\;\exists!X\in\mathcal M_{p,1}(\R)\;/\: AX=f(X)=Y$$En particulier, pour $Y=p_F(B) \in F$, on en déduit qu'il existe une unique matrice $X_{0}\in\mathcal M_{p,1}(\R)$ telle que $f(X_{0})=p_{F}(B)$. Or :
$$AX_{0}=p_{F}(B)\;\iff\;\|AX_{0}-B\|=\min\left\{ \|U-B\|\;|\, U\in F\right\} =\min\left\{ \|AX-B\|\;|\, X\in\mathcal M_{p,1}(\R)\right\}$$toujours par bijectivité de $g$ ce qui assure que $X_{0}$ est l'unique solution du problème.
De plus :
$$\begin{array}{rcl}
f(X_{0})=p_{F}(B) & \iff & f(X_{0})\in F\;\text{et}\; B-f(X_{0})\in F^{\perp} \\
& \iff & B-f(X_{0})\in F^{\perp} \\
& \iff & \forall Y\in F,\;\left\langle Y,B-f(X_{0})\right\rangle =0 \\
& \iff & \forall X\in\mathcal M_{p,1}(\R),\;\left\langle AX,B-f(X_{0})\right\rangle =0 \\
& \iff & \forall X\in\mathcal M_{p,1}(\R),\;{}^t(AX)(B-AX_{0})=0 \\
& \iff & \forall X\in\mathcal M_{p,1}(\R),\;{}^tX\left({}^tA(B-AX_{0})\right)=0 \\
& \iff & \forall X\in\mathcal M_{p,1}(\R),\;\left\langle X,{}^tA(B-AX_{0})\right\rangle =0 \\
& \iff & {}^tA(B-AX_{0})=\Theta
\end{array}$$d'où le résultat : ${}^tAAX_{0}={}^tAB$.