Les deux articles précédents ont décrit tous les triangles rectangles à côtés entiers, et il y en a une infinité. Changeons une seule chose à l’énoncé : remplaçons les carrés par des cubes, et cherchons trois entiers strictement positifs dont le cube du troisième soit la somme des cubes des deux premiers. Il n’y en a aucun. Si l’on monte à la puissance quatre, à la puissance cinq, à la puissance mille : aucun non plus. Entre un énoncé qui admet une infinité de solutions et le même énoncé qui n’en admet aucune, il y a un exposant de différence — et il a fallu trois siècles et demi pour le démontrer.
Cet article ferme le mini-fil ouvert par « Les triplets pythagoriciens : d’où vient la liste (3, 4, 5), (5, 12, 13), (8, 15, 17) ? » et poursuivi par « Pourquoi 60 divise le produit des trois côtés d’un triangle rectangle entier ». Il est d’une autre nature que les deux premiers : le grand théorème de Fermat ne figure nulle part dans Mathématiques en terminales scientifiques (Tome 2), dont ce fil est tiré, et je le construis donc en dehors de l’ouvrage. Tout ce qui est démontré ici l’est entièrement ; tout ce qui est seulement raconté est annoncé comme tel.
1. Un exposant de plus, et tout s’effondre
Écrivons les deux énoncés l’un sous l’autre, car c’est leur voisinage qui fait tout l’intérêt de l’affaire.
Théorème (article précédent). L’équation
admet une infinité de solutions en entiers naturels non nuls, et nous les connaissons toutes.
Théorème (Wiles, 1995). Pour tout entier
, l’équation
n’admet aucune solution en entiers naturels non nuls.
La clause « non nuls » n’est pas décorative. Avec , l’égalité
est vraie pour tout exposant, et elle ne dit rien. Avec des entiers relatifs et un exposant impair, le triplet
convient tout aussi vainement. L’énoncé porte sur des entiers strictement positifs, et c’est là qu’il est difficile.
Il faut mesurer ce que cette différence a d’étrange. Les sommes de deux cubes passent très près du but. Le nombre manque
d’une unité. Le nombre
est une somme de deux cubes de deux façons différentes, puisqu’il vaut aussi
; il n’est pourtant pas un cube. L’équation n’échoue jamais de beaucoup, et elle échoue toujours.
2. La marge de l’Arithmétique
Pierre de Fermat lisait, vers 1637, l’Arithmétique de Diophante dans l’édition latine de Bachet. Le problème 8 du livre II demande de décomposer un carré en deux carrés — exactement ce que les deux articles précédents ont fait. Dans la marge, Fermat écrivit qu’il est impossible de décomposer un cube en deux cubes, une puissance quatrième en deux puissances quatrièmes, et généralement toute puissance au-delà du carré ; puis il ajouta que la marge était trop étroite pour contenir sa démonstration.
Trois faits sur cette note, qui changent la façon de la lire. Fermat ne l’a jamais publiée : c’est son fils Samuel qui la fit paraître en 1670, cinq ans après la mort de son père, dans une réédition annotée de Diophante. Fermat n’a jamais repris l’énoncé général dans sa correspondance, où il ne parle que des exposants 3 et 4. Et le seul cas dont il ait laissé une démonstration est celui de l’exposant 4, par la méthode qu’il appelait la descente infinie.
Il est donc très probable qu’il croyait tenir une démonstration générale et qu’elle était fausse. Ce n’est pas une accusation : une erreur du même genre a sans doute été commise deux siècles plus tard par un mathématicien de premier ordre, et nous allons voir exactement à quel endroit.
3. Combien de cas faut-il traiter ?
Avant toute chose, une réduction, qui se démontre en quatre lignes et qui est à la portée d’une classe de terminale. Elle explique pourquoi l’histoire du problème parle toujours d’exposants premiers.
Proposition. Si l’équation
n’a pas de solution en entiers naturels non nuls pour
et pour tout nombre premier impair
, alors elle n’en a pour aucun entier
.
Démonstration. Soit et supposons que le triplet
d’entiers naturels non nuls vérifie
. Deux cas se présentent. Si le nombre
admet un facteur premier impair
, écrivons
; l’égalité se relit
et fournit une solution pour l’exposant premier impair . Sinon, le nombre
n’a que
pour facteur premier : c’est une puissance de 2, et comme
, on a
, donc
divise
. En écrivant
, la même relecture fournit une solution pour l’exposant 4.
L’infinité des exposants se ramène donc à l’exposant 4 et aux nombres premiers impairs. C’est encore une infinité de cas, mais la nature du problème a changé : on n’a plus affaire à une famille hétéroclite, on a affaire aux nombres premiers.
4. Trois siècles de cas particuliers
Voici les jalons, et je les donne tels qu’ils sont — des résultats partiels, arrachés un par un.
L’exposant 4 est traité par Fermat lui-même. L’exposant 3 attend Euler, plus d’un siècle. L’exposant 5 est emporté en 1825 par Legendre et Dirichlet, qui travaillent presque simultanément ; l’exposant 7 par Lamé en 1839. Chaque cas demande une idée nouvelle, et aucun ne sert au suivant.
Un résultat sort de cette série de cas isolés, et c’est celui de Sophie Germain. Elle démontre que si et
sont tous deux premiers, alors toute solution éventuelle de
a l’un de ses trois termes divisible par
. Ce n’est pas le théorème, mais c’est le premier énoncé qui porte sur une infinité d’exposants à la fois, et il tombe en 1823 — avant même le cas
.
En 1847, Lamé annonce à l’Académie des sciences une démonstration générale. Elle est fausse, et Kummer explique pourquoi dans les mois qui suivent. L’erreur est précisément celle que je veux montrer, parce qu’elle porte sur l’outil employé à la section 3 de l’article précédent.
5. Là où la démonstration du carré cesse de fonctionner
Relisons ce qui a marché pour l’exposant 2. Le point décisif était une factorisation : . Puis un argument que nous avons soigneusement énoncé : si un produit de deux entiers premiers entre eux est un carré parfait, chacun des deux facteurs est un carré parfait. Cet argument repose tout entier sur l’unicité de la décomposition en facteurs premiers.
Pour l’exposant 3, on aimerait procéder de même. L’identité offre bien une factorisation, mais elle ne suffit pas, et la voie que Lamé a suivie consiste à factoriser davantage. Pour un exposant premier
, en notant
une racine
-ième de l’unité différente de 1, on a
pour impair. La factorisation est complète, elle est belle, et elle vit non plus dans
mais dans l’anneau
des combinaisons à coefficients entiers des puissances de
. Lamé a supposé que l’argument des facteurs premiers s’y transporte. Il ne s’y transporte pas.
Le plus simple est de voir l’échec sur un anneau plus modeste, où le calcul reste élémentaire. Considérons l’anneau des nombres
avec
et
entiers, et posons
. Cette application est multiplicative. Or
et les quatre nombres ,
,
et
sont irréductibles dans cet anneau. Vérifions-le, puisque c’est là que tout se joue. Leurs normes valent respectivement
,
,
et
. Si le nombre
se factorisait en deux facteurs non inversibles, leurs normes seraient deux entiers supérieurs à 1 de produit 4, donc toutes deux égales à 2 ; mais l’équation
n’a pas de solution entière, car
donnerait
et
donnerait
. Le même raisonnement écarte la norme 3, et donc toute factorisation de
comme de
.
Le nombre a donc deux décompositions en irréductibles qui ne se déduisent pas l’une de l’autre. L’unicité de la décomposition est perdue, et avec elle l’argument « produit de deux facteurs premiers entre eux qui est une puissance ». Kummer a montré que la même chose arrive dans
, dès
. Pour les nombres premiers inférieurs à
, l’unicité tient ; à partir de
, elle est perdue, et l’argument de Lamé avec elle.
Voilà la réponse à la question du titre. Ce qui change, en passant du carré au cube, n’est pas la difficulté du calcul : c’est l’anneau dans lequel il faut aller travailler, et cet anneau n’a plus la propriété dont toute la démonstration du carré dépendait.
6. L’échec a construit une théorie
Kummer n’en est pas resté là. Pour restaurer l’unicité perdue, il introduit ce qu’il appelle des nombres idéaux, que Dedekind transformera en la notion d’idéal d’un anneau, aujourd’hui enseignée en licence. Dans ce nouveau cadre, l’unicité de la décomposition revient — non plus pour les nombres, mais pour les idéaux. L’obstruction se mesure alors par un entier, le nombre de classes, qui vaut 1 exactement quand la décomposition des nombres eux-mêmes est unique.
Avec cet outil, Kummer démontre le théorème pour tous les exposants premiers qu’il appelle réguliers ; le premier exposant irrégulier est 37, et l’on ne sait toujours pas aujourd’hui si les réguliers sont en nombre infini. Le problème reste ouvert, mais la théorie algébrique des nombres existe désormais, et elle existe à cause de cette marge.
La suite se joue ailleurs, et je la résume sans la démontrer — elle est hors de portée du secondaire comme du premier cycle. En 1984, Gerhard Frey associe à une solution hypothétique de l’équation de Fermat une courbe elliptique aux propriétés très particulières. En 1986, Ken Ribet démontre qu’une telle courbe ne peut pas être modulaire. Or la conjecture de Taniyama, Shimura et Weil affirmait que toute courbe elliptique sur l’est. Il suffisait dès lors de démontrer cette conjecture, qui n’a aucun rapport apparent avec Fermat, pour que l’équation n’ait pas de solution.
C’est ce qu’Andrew Wiles annonce en juin 1993, pour le cas suffisant des courbes semi-stables. Une lacune est décelée dans la démonstration la même année ; elle est comblée avec Richard Taylor, et l’ensemble paraît en 1995 dans les Annals of Mathematics.
7. Ce que cette démonstration n’est pas
Trois précisions, pour éviter trois malentendus répandus.
Ce n’est pas la démonstration de Fermat, et ce ne peut pas l’être : elle emploie des objets mathématiques inventés au vingtième siècle. La question de savoir si Fermat avait une démonstration correcte reste donc ouverte au sens strict, mais personne ne le pense sérieusement.
Ce n’est pas une démonstration courte. L’article de 1995 fait plus de cent pages et s’appuie sur plusieurs décennies de travaux antérieurs. Savoir s’il existe une démonstration élémentaire du théorème est une question ouverte, et je ne connais aucune raison de parier dans un sens ou dans l’autre.
Enfin, ce n’est pas un résultat dont l’énoncé soit la partie intéressante. Savoir qu’une équation n’a pas de solution ne sert à peu près à rien. Ce qui sert, c’est ce qu’il a fallu construire pendant trois siècles pour y parvenir : la descente infinie, les idéaux, les corps de nombres, les courbes elliptiques, les formes modulaires. L’énoncé de la marge a joué le rôle d’un problème-test, et c’est le meilleur usage qu’on puisse faire d’une question.
Reste une chose que l’élève de quatrième du premier article peut emporter. Les deux énoncés mis en regard à la section 1 ne diffèrent que par un exposant, et l’un se démontre en deux articles de blog quand l’autre a demandé trois siècles et demi. En mathématiques, la difficulté d’une question ne se lit pas sur son énoncé.
Le grand théorème de Fermat ne figure pas dans Mathématiques en terminales scientifiques (Tome 2), dont ce fil est tiré : on y trouve les nombres de Fermat et le petit théorème de Fermat, deux objets différents, parmi les exercices d’approfondissement. La réduction de la section 3 et l’exemple de la section 5 sont construits ici ; la factorisation en facteurs premiers et les congruences qu’ils emploient se lisent, elles, aux chapitres 2 et 4 de l’ouvrage.