Définition
Pourvu que $A$ soit un anneau
intègre, c'est-à-dire si le produit de deux éléments non nuls de $A$ n'est jamais nul, alors on dit qu'un polynôme $P \in A[x]$ est
irréductible s'il est de degré au moins $1$ et si la seule façon d'avoir $P = QR$ avec $Q, R \in A[x]$ est que l'un des deux polynômes $Q$ et $R$ soit une constante (c'est-à-dire de degré $0$).
Cette notion dépend fortement de l'anneau (intègre) $A$ sur lequel on considère le polynôme. Par exemple, le théorème fondamental de l'algèbre nous apprend que les seuls polynômes de $\mathbb{C}[x]$ qui sont irréductibles sont ceux de degré $1$. En effet, tous les polynômes de degré supérieur peuvent être décomposés en produit des $(x-r_i)$, c'est-à-dire en produit de polynômes non constants.
Dans $\mathbb{R}[x]$ par contre, au vu du résultat analogue au théorème fondamental pour les polynômes à coefficients réels, les seuls polynômes irréductibles sont ceux de degré $1$ et ceux de degré $2$ dont le discriminant $\Delta$ est strictement négatif.
Nous connaissons donc les polynômes irréductibles de $\mathbb{C}[x]$ et $\mathbb{R}[x]$. Il n'existe par contre pas de telle caractérisation des polynômes irréductibles de $\mathbb{Q}[x]$ ou $\mathbb{Z}[x]$, et la section suivante a pour but de donner des méthodes pour traiter ces cas.
Polynômes à coefficients entiers ou rationnels
Si on est en présence d'un polynôme de $\mathbb{Q}[x]$, c'est-à-dire à coefficients rationnels, on peut multiplier le polynôme par le plus petit commun multiple des dénominateurs des coefficients pour se ramener à un polynôme à coefficients entiers. Il semble donc que l'on puisse aisément passer de $\mathbb{Q}[x]$ à $\mathbb{Z}[x]$, mais il faut tout de même faire attention : on pourrait peut-être avoir un polynôme à coefficients entiers qui soit irréductible dans $\mathbb{Z}[x]$ mais réductible dans $\mathbb{Q}[x]$. Le
lemme de Gauss suivant nous indique en fait que ce n'est jamais le cas.
Lemme de Gauss
Si $P \in \mathbb{Z}[x]$ est réductible dans $\mathbb{Q}[x]$, alors il l'est également dans $\mathbb{Z}[x]$.
Idée de démonstration
L'idée de la démonstration est simple. On sait que l'on a $P = Q\cdot R$ avec $Q, R$ dans $\mathbb{Q}[x]$, et on note $d$ le plus petit commun multiple de tous les dénominateurs des coefficients de $Q$ et $n$ le plus grand commun diviseur de tous les coefficients de $d \cdot Q$. On peut alors écrire $P = \left(\frac{d}{n}\cdot Q\right) \cdot \left(\frac{n}{d} \cdot R\right)$, et le tout est de prouver que les coefficients de $\frac{n}{d} \cdot R$ sont entiers, de sorte que $P$ soit réductible dans $\mathbb{Z}[x]$. Pour ce faire, on utilise le fait que $\frac{d}{n} \cdot Q$ a tous ses coefficients entiers et premiers entre eux.
Nous avons donc expliqué comment le fait d'être irréductible ou réductible dans $\mathbb{Q}[x]$ se ramène aisément au fait d'être irréductible ou réductible dans $\mathbb{Z}[x]$. Il reste maintenant à savoir détecter quand un polynôme de $\mathbb{Z}[x]$ est irréductible.
Il n'est malheureusement pas facile de voir si un polynôme de $\mathbb{Z}[x]$ est réductible ou non. Pour montrer qu'un polynôme $P$ est réductible, on peut bien sûr lui trouver une factorisation non triviale $P = QR$, mais montrer qu'il n'existe pas de telle factorisation est bien plus compliqué. Il ne faut déjà pas commettre l'erreur courante suivante : être irréductible n'est en général pas équivalent à ne pas avoir de racine ! En effet, il se peut qu'un polynôme n'ait pas de racines mais qu'il soit tout de même réductible, comme c'est par exemple le cas du polynôme
$$P(x) = (x^2+1)(x^2+4).$$ Ce polynôme est réductible vu qu'il se factorise, mais il n'a aucune racine entière puisque ses racines dans $\mathbb{C}$ sont $i$, $-i$, $2i$ et $-2i$. Il existe tout de même un cas où on peut se contenter de montrer qu'un polynôme n'a pas de racines entières pour montrer qu'il est irréductible : celui où le degré du polynôme est inférieur ou égal à $3$. En effet, dans ce cas toute factorisation non triviale du type $P = QR$ comprend un polynôme de degré $1$ puisque sinon $\deg P \geq 4$. Dans ce contexte, on peut donc simplement se contenter de prouver que $P$ n'a pas de racine entière, et on peut pour cela utiliser le résultat suivant (dont la démonstration est un simple exercice de théorie des nombres) :
Lemme
Soit $P \in \mathbb{Z}[x]$ un polynôme. Si $\frac{p}{q}$ est une racine rationnelle de $P$, avec $p$ et $q$ premiers entre eux, alors $p$ divise le terme indépendant de $P$ et $q$ divise son coefficient dominant.
En particulier, ce résultat nous indique que les seules racines entières éventuelles d'un tel polynôme divisent le terme indépendant du polynôme : on peut donc se contenter de tester tous les diviseurs (éventuellement négatifs) de ce terme indépendant.
Exemple : Le polynôme $P(x) = 2x^5 - x^2 + 3$ n'a que huit racines rationnelles possibles : $\pm 1$, $\pm 3$, $\pm\frac{1}{2}$, et $\pm\frac{3}{2}$. Il suffit de les tester et on voit notamment que $-1$ est une racine.
Si par contre, on est en présence d'un polynôme de degré supérieur ou égal à $4$, alors montrer qu'il n'existe pas de racines ne suffit plus. Une façon de faire, par exemple pour un polynôme de degré $4$, est d'en plus montrer qu'il ne se factorise pas en produit de deux polynômes de degré $2$. On peut procéder par l'absurde en supposant que le polynôme s'écrit comme
$$(ax^2 + bx + c)(d x^2 + ex + f)$$ et en trouvant des conditions sur $a, b, c, d, e$ et $f$ pour trouver une absurdité, mais un tel raisonnement devient vite long.
Une autre possibilité est d'utiliser le
critère d'Eisenstein (qui se démontre aussi aisément par un peu de théorie des nombres) :
Critère d'Eisenstein
Soit $P(x) = c_n x^n + c_{n-1} x^{n-1} + \ldots + c_1 x + c_0$ un polynôme à coefficients entiers. S'il existe un nombre premier $p$ tel que
- $p$ divise $c_0, c_1, \ldots, c_{n-1}$ ;
- $p$ ne divise pas $c_n$ ;
- $p^2$ ne divise pas $c_0$,
alors $P$ est irréductible dans $\mathbb Z[x]$.
: Le polynôme $x^5 - 4x^2 + 6x - 2$ est irréductible : les trois conditions sont respectées pour $p = 2$.
Quand le critère d'Eisenstein ne s'applique pas, on peut également effectuer un changement de variable du type $y = x+c$ (pour un certain $c \in \mathbb{Z}$) pour arriver à un autre polynôme auquel le critère s'applique éventuellement. En effet, le polynôme $P(x)$ est clairement irréductible si et seulement si $P(x-c)$ l'est.
Exemple : Le polynôme $P(x) = x^{p-1}+x^{p-2}+\ldots+x+1$ est irréductible pour $p$ premier. Pour le montrer, remarquons d'abord que $P$ peut s'écrire (il s'agit d'une formule bien connue) comme
$$P(x) = \frac{x^p-1}{x-1}.$$ Intéressons-nous à présent au polynôme $Q$ défini par $Q(x) = P(x+1)$. Montrer que $P$ est irréductible revient à montrer que $Q$ est irréductible. Or nous avons :
$$Q(x) = P(x+1) = \frac{(x+1)^p - 1}{x}.$$ Par la formule du binôme de Newton (voir combinatoire), on peut développer en
$$\begin{align}
Q(x) & = \frac{x^p + C^1_p x^{p-1} + C^2_p x^{p-2} + \ldots + C^{p-1}_p x +1 - 1}{x} \\[1mm]
&= x^{p-1} + C^1_p x^{p-2} + C^2_p x^{p-3} + \ldots + C^{p-1}_p
\end{align}$$ On peut alors directement utiliser le critère d'Eisenstein avec $p$, car $p$ divise tous les coefficients sauf le dominant (le nombre $C^k_p$ est toujours divisible par $p$ lorsque $p$ est premier et $1 \leq k \leq p-1$) et $p^2$ ne divise pas $C^{p-1}_p = p$.