Définition
Soit $E$ un $\K$-espace vectoriel. Soit $u\in\mathcal{L}(E)$ et $Q=a_{0}+a_{1}X+\dots+a_{n}X^{n}\in\K[X]$.
Exemples
Théorème
Soit $u\in\mathcal{L}(E)$, $(\lambda,\mu)\in\K^{2}$ et $(P,Q)\in\K[X]^{2}$. Alors :
$$(\lambda P+\mu Q)(u)=\lambda P(u)+\mu Q(u)$$$$(PQ)(u)=P(u)\circ Q(u)=Q(u)\circ P(u)=(QP)(u)$$En conséquence, si $P$ est un polynôme annulateur de $u$ alors $PQ$ est aussi un polynôme annulateur de $u$.
Théorème : Existence d'un polynôme annulateur
Tout endomorphisme d'un $\K$-espace vectoriel $E$ de dimension finie admet un polynôme annulateur.
Remarque : Comment déterminer un polynôme annulateur en pratique ?
Le polynôme unitaire que l'on obtient est appelé polynôme minimal de l'endomorphisme (c'est le polynôme unitaire de plus bas degré qui annule cet endomorphisme.
Exemple
Déterminer un polynôme annulateur de $u\colon\K^{2}\to\K^{2},\;\begin{pmatrix} x \\ y \end{pmatrix}\mapsto \begin{pmatrix} x+y \\ x+y \end{pmatrix}$.