Fermat s’est trompé, et son erreur a produit un théorème

Trois, cinq, dix-sept, deux cent cinquante-sept, soixante-cinq mille cinq cent trente-sept. Chacun s’obtient en élevant deux à une puissance de deux, puis en ajoutant un, et chacun est premier. Fermat, dans sa correspondance à partir de 1640, affirme qu’il en va de même de tous les nombres ainsi construits. Le suivant a dix chiffres, quatre milliards deux cent quatre-vingt-quatorze millions neuf cent soixante-sept mille deux cent quatre-vingt-dix-sept, et Euler montre en 1732 qu’il est divisible par six cent quarante et un. La conjecture est fausse. Les nombres qu’elle concernait ont pourtant une propriété que Fermat n’avait pas vue, et qui suffit à redémontrer l’infinité des nombres premiers.

Cet article est le neuvième de la série Le peuple des nombres premiers, tirée de Mathématiques en terminales scientifiques (Tome 2). Il donne la troisième preuve de l’infinité des nombres premiers annoncée dans « Il y en a toujours un de plus : la preuve d’Euclide, relue de près », paru le 9 octobre, après celle d’Euclide et la preuve topologique publiée sur le blog en 2021. Il reprend, pour deux puissance n plus un, la démarche suivie pour deux puissance n moins un dans « Mersenne : 2ⁿ − 1 ne peut être premier que si n l’est, et la réciproque est fausse », paru le 19 octobre, et emploie comme lui le petit théorème de Fermat.

1. Pourquoi une puissance de deux à l’exposant

Le Tome 2 appelle nombre de Fermat tout entier F_{n}=2^{2^{n}}+1, où n\in\mathbb{N}. La double exponentielle surprend ; elle a une raison, qui ne figure pas dans l’ouvrage et que voici. La proposition suivante est ajoutée ici.

Proposition 1. Soit m\geq 1. Si 2^{m}+1 est premier, alors m est une puissance de 2.

Démonstration. Un entier m\geq 1 qui n’est pas une puissance de 2 possède un diviseur impair c\geq 3 ; écrivons m=bc. Pour c impair, l’identité x^{c}-y^{c}=(x-y)\bigl(x^{c-1}+x^{c-2}y+\cdots+y^{c-1}\bigr), appliquée à y=-1, donne

\displaystyle x^{c}+1=(x+1)\bigl(x^{c-1}-x^{c-2}+\cdots-x+1\bigr).

Avec x=2^{b}, le nombre 2^{b}+1 divise 2^{m}+1, et il est compris strictement entre 1 et 2^{m}+1 puisque b<m. Le nombre 2^{m}+1 n’est donc pas premier. \quad\Box

C’est le pendant exact du théorème sur 2^{n}-1 : une condition nécessaire sur l’exposant. Par exemple 2^{6}+1=65=5\times 13, où 5=2^{2}+1 provient du diviseur impair 3 de 6. Les nombres premiers de la forme 2^{m}+1 sont à chercher parmi les F_{n}. Et là encore, la réciproque est fausse.

2. Cinq nombres premiers, puis 641

On a F_{0}=3, F_{1}=5, F_{2}=17, F_{3}=257 et F_{4}=65537. Les trois premiers sont évidemment premiers. Pour 257, l’ouvrage remarque que \sqrt{257}<17 et qu’aucun des nombres premiers 2, 3, 5, 7, 11, 13 ne le divise. Pour 65537, la même méthode demanderait de tester tous les nombres premiers jusqu’à 256 ; la section 3 dispensera de presque tous.

Puis F_{5}=2^{32}+1=4294967297. Le Tome 2 établit sa divisibilité par 641 en deux divisions euclidiennes :

\displaystyle 2^{16}=65536=641\times 102+154,\qquad 154^{2}=23716=641\times 36+640.

Ainsi 2^{32}=\bigl(2^{16}\bigr)^{2}\equiv 154^{2}\equiv 640\equiv -1\pmod{641}, et F_{5}\equiv 0\pmod{641}. Le quotient vaut 6700417, qui est premier.

Une autre vérification, qui ne figure pas dans l’ouvrage, se passe de toute division. Le nombre 641 s’écrit de deux façons : 641=5\times 2^{7}+1 et 641=5^{4}+2^{4}. Modulo 641, la première donne 5\times 2^{7}\equiv -1, donc 5^{4}\times 2^{28}\equiv(-1)^{4}=1 ; la seconde donne 2^{4}\equiv -5^{4}. Il vient

\displaystyle 2^{32}=2^{4}\times 2^{28}\equiv -5^{4}\times 2^{28}\equiv -1\pmod{641}.

3. Pourquoi chercher du côté de 641

Ces calculs vérifient un diviseur ; ils ne disent pas comment le trouver. Le résultat qui suit ne figure pas dans le Tome 2. Il repose sur la notion d’ordre employée dans l’article du 19 octobre : si q est un nombre premier impair, le plus petit entier d\geq 1 tel que 2^{d}\equiv 1\pmod q divise tout exposant m vérifiant 2^{m}\equiv 1\pmod q, et en particulier q-1, d’après le petit théorème de Fermat.

Proposition 2. Tout diviseur premier q de F_{n} vérifie q\equiv 1\pmod{2^{n+1}}.

Démonstration. Le nombre F_{n} est impair, donc q aussi. De 2^{2^{n}}\equiv -1\pmod q, on tire en élevant au carré 2^{2^{n+1}}\equiv 1\pmod q. L’ordre d de 2 modulo q divise donc 2^{n+1} : c’est une puissance 2^{j} avec j\leq n+1. Si l’on avait j\leq n, alors 2^{j} diviserait 2^{n}, et l’on aurait 2^{2^{n}}\equiv 1\pmod q ; avec 2^{2^{n}}\equiv -1, cela donnerait q\mid 2, ce qui est exclu. Donc d=2^{n+1}, et comme d divise q-1, la proposition est démontrée. \quad\Box

Pour F_{5}, les diviseurs premiers sont donc congrus à 1 modulo 64. Les nombres premiers de cette forme, rangés par ordre croissant, sont 193, 257, 449, 577, 641 : le diviseur cherché est le cinquième candidat. On démontre même, pour n\geq 2, que q\equiv 1\pmod{2^{n+2}}, ce que nous admettons ici ; il ne reste alors que 257 et 641 à essayer. Le diviseur 641 cesse d’être une trouvaille de hasard.

La même proposition règle le cas de F_{4}=65537. Comme 256^{2}=65536, un diviseur premier inférieur à la racine carrée vaut au plus 256, et il est congru à 1 modulo 32. Les seuls nombres premiers de cette forme sont 97 et 193, et les divisions laissent les restes 62 et 110. Deux divisions au lieu de cinquante-quatre : 65537 est premier.

4. Deux nombres de Fermat sont premiers entre eux

Voici la propriété que Fermat n’avait pas remarquée, et qui est le cœur de l’exercice du Tome 2. L’ouvrage établit d’abord la relation F_{n+1}=(F_{n}-1)^{2}+1, dont il tire par récurrence que l’écriture décimale de F_{n} se termine par 7 dès que n\geq 2, puisque (7-1)^{2}+1=37. Puis il pose a=2^{2^{n}}, de sorte que F_{n}=a+1, et, pour k\geq 1,

\displaystyle F_{n+k}-2=2^{2^{n}\times 2^{k}}-1=a^{2^{k}}-1=\bigl(a^{2}\bigr)^{2^{k-1}}-1.

Ce dernier nombre est divisible par a^{2}-1=(a-1)(a+1), donc par F_{n}. Ainsi F_{n} divise F_{n+k}-2.

Théorème. Deux nombres de Fermat distincts sont premiers entre eux.

Démonstration. Soient n<m et \delta un diviseur positif commun à F_{n} et F_{m}. Comme F_{n} divise F_{m}-2, le nombre \delta divise F_{m}-2 et F_{m}, donc leur différence 2. Les nombres de Fermat étant impairs, \delta=1. \quad\Box

Une forme plus parlante du même fait ne figure pas dans l’ouvrage. Pour tout m\geq 1,

\displaystyle F_{0}\,F_{1}\cdots F_{m-1}=F_{m}-2.

Pour m=1, c’est 3=5-2. Et si l’égalité vaut au rang m, alors F_{m+1}-2=2^{2^{m+1}}-1=\bigl(2^{2^{m}}-1\bigr)\bigl(2^{2^{m}}+1\bigr)=(F_{m}-2)\,F_{m}=F_{0}\cdots F_{m-1}F_{m}. Ainsi 3\times 5\times 17\times 257=65535=F_{4}-2. Chaque nombre de Fermat dépasse de 2 le produit de tous ceux qui le précèdent, exactement comme le nombre d’Euclide dépasse de 1 le produit des premiers de sa liste.

5. Une troisième preuve de l’infinité des nombres premiers

La conséquence qui suit n’est pas tirée dans le Tome 2. Chaque F_{n} est au moins égal à 3 et possède donc un diviseur premier, que nous notons q_{n}. Si l’on avait q_{n}=q_{m} pour n\neq m, ce nombre premier serait un diviseur commun à F_{n} et F_{m}, ce que le théorème interdit. Les nombres q_{0}, q_{1}, q_{2}, … sont donc deux à deux distincts, et il y a une infinité de nombres premiers.

La démonstration ne demande à aucun F_{n} d’être premier. Elle fonctionne avec F_{5}=641\times 6700417 comme avec F_{4} : l’erreur de Fermat ne l’atteint pas. C’est en cela que ses nombres, mal compris, ont produit un théorème. L’argument figure dans une lettre de Christian Goldbach à Euler, écrite en 1730 ; la conjecture de Fermat n’était pas encore réfutée, elle le sera deux ans plus tard, et l’argument n’en souffre pas.

Elle donne en prime une majoration. Les nombres q_{0}, …, q_{n} sont n+1 nombres premiers distincts, tous inférieurs ou égaux à F_{n}. Le (n+1)-ième nombre premier vérifie donc p_{n+1}\leq 2^{2^{n}}+1. La preuve d’Euclide, relue dans l’article du 9 octobre, donnait p_{n+1}\leq 2^{2^{n}} : presque la même borne, obtenue par un autre chemin. La ressemblance n’est pas fortuite. Dans les deux cas, on fabrique un nombre qui ne partage aucun facteur premier avec ceux qui l’ont précédé : le reste 1 y suffit chez Euclide, le reste 2 et l’imparité y suffisent ici. Toute suite infinie d’entiers au moins égaux à 2 et deux à deux premiers entre eux fournirait de même une preuve de l’infinité des nombres premiers.

6. Ce que l’on sait des nombres de Fermat

Presque rien, au-delà de F_{4}. Aucun autre nombre de Fermat premier n’est connu. Tous ceux que l’on a pu examiner, de F_{5} à F_{32}, sont composés, et l’on ne sait pas s’il en existe un seul autre qui soit premier. La conjecture de Fermat a donc fini par s’inverser : on soupçonne aujourd’hui que F_{0} à F_{4} sont les seuls premiers, sans pouvoir le démontrer.

Ces cinq nombres ont trouvé un emploi là où on ne les attendait pas. En 1796, Gauss découvre que le polygone régulier à dix-sept côtés se construit à la règle et au compas ; il établit ensuite qu’il en va de même du polygone à q côtés lorsque q est un nombre de Fermat premier, et Pierre-Laurent Wantzel montre en 1837 que, pour q premier, cette condition est aussi nécessaire. Le prochain article de la série, un exercice qui paraît le 25 octobre, quitte les formules et cherche des nombres premiers alignés en progression arithmétique.


Le calcul de F_{0} à F_{3}, la divisibilité de F_{5} par 641, la relation F_{n+1}=(F_{n}-1)^{2}+1, le dernier chiffre 7, la divisibilité de F_{n+k}-2 par F_{n} et le théorème de la section 4 forment l’exercice Nombres de Fermat des exercices d’approfondissement, section Familles de nombres entiers, de Mathématiques en terminales scientifiques (Tome 2). La proposition 1, la seconde vérification par 641, la forme des diviseurs premiers, la formule du produit, la preuve de l’infinité des nombres premiers qui s’en déduit et l’histoire n’y figurent pas et sont ajoutées ici.

Votre commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur la façon dont les données de vos commentaires sont traitées.