Numérotons les lettres de l’alphabet de 0 pour A à 25 pour Z, et chiffrons un message en remplaçant chaque lettre de rang x par ax + b, calculé modulo 26. Le procédé s’appelle le chiffrement affine. Il est élémentaire, et il pose une question qui ne l’est pas : quels couples de coefficients produisent un chiffrement déchiffrable ?
La réponse mobilise tout ce fil d’arithmétique : le PGCD de l’algorithme d’Euclide, et surtout l’identité de Bézout, qui fournit la clé de déchiffrement au sens propre.
1. Un chiffrement qui perd de l’information
Essayons et
, c’est-à-dire
. La lettre A, de rang
, devient
, soit E. La lettre C, de rang
, devient
, soit
modulo
: E encore. Et E, de rang
, donne
: E toujours.
Toutes les lettres de rang pair sont chiffrées en E, toutes celles de rang impair en R. Le message chiffré ne contient plus que deux lettres : il est illisible pour son destinataire légitime autant que pour un tiers. Le chiffrement a détruit le message.
Ce qui a échoué n’est pas le secret, c’est l’injectivité. Pour que le destinataire retrouve le texte clair, l’application
doit être une bijection. L’ensemble de départ et l’ensemble d’arrivée étant finis et de même cardinal, il revient au même d’exiger l’injectivité ou la surjectivité.
2. La condition
Proposition. L’application
de
dans lui-même est une bijection si et seulement si
.
Le paramètre n’intervient pas : une translation est toujours bijective. Tout se joue sur
.
Preuve. Supposons d’abord . D’après l’identité de Bézout, il existe deux entiers
et
tels que
, donc
. Posons alors
On vérifie , et de même
. L’application
admet donc une réciproque : elle est bijective.
Réciproquement, supposons . Posons
, qui est un entier vérifiant
. Alors
puisque est entier. Par conséquent
, avec
: deux lettres distinctes ont la même image, et
n’est pas injective.
Comme , les valeurs interdites de
sont les multiples de
et ceux de
. Il reste douze valeurs licites :
. Avec vingt-six choix pour
, cela fait
clés — assez peu pour qu’un ordinateur les épuise instantanément, ce qui situe la solidité du procédé.
3. Déchiffrer, c’est inverser 
La preuve a livré la méthode : la clé de déchiffrement est l’entier de l’identité de Bézout, appelé inverse de
modulo
. Prenons
et
, et déroulons l’algorithme d’Euclide étendu sur
et
:
Le dernier reste non nul vaut : les deux nombres sont bien premiers entre eux. En remontant les égalités :
soit . Ainsi
, et l’inverse de
est
, c’est-à-dire
modulo
. Vérification :
.
Les deux fonctions sont donc
et
À l’essai : M a pour rang , et
, soit la lettre de rang
, J. Dans l’autre sens,
: on retrouve
, donc M. La fonction de déchiffrement est elle aussi affine — c’est ce qui rend le procédé symétrique et commode.
4. Ce que l’exemple enseigne au-delà du chiffrement
La condition ne concerne pas la cryptographie : elle dit quels éléments de
sont inversibles pour la multiplication. Le chiffrement affine n’est qu’une mise en scène de cette question.
Le raisonnement vaut pour tout module : les inversibles de
sont exactement les classes des entiers premiers avec
, et leur nombre est noté
, l’indicatrice d’Euler. Deux conséquences immédiates. Lorsque
est premier, tout élément non nul est inversible :
est alors un corps. Lorsque
ne l’est pas, il existe des diviseurs de zéro — dans
,
sans qu’aucun des deux facteurs soit nul.
Un alphabet de vingt-cinq lettres, ou de vingt-neuf, se comporterait tout autrement : étant premier, les vingt-huit valeurs non nulles de
conviendraient. Le nombre de clés d’un chiffrement affine dépend donc de l’arithmétique de la taille de l’alphabet, ce qui est une façon inattendue de rencontrer les nombres premiers.
C’est aussi le mécanisme sur lequel repose le chiffrement RSA, à ceci près que le module y est le produit de deux très grands nombres premiers, et que l’inverse modulaire s’y calcule par le même algorithme d’Euclide étendu, sur des nombres de plusieurs centaines de chiffres.
Ce fil d’arithmétique s’achève ici. Parti d’un calcul de PGCD sans factorisation, il aboutit à la structure multiplicative des anneaux — sans avoir jamais eu besoin d’autre chose que de la division euclidienne.
Les congruences, l’inverse modulaire et leurs applications au chiffrement sont traités au chapitre 4 de Mathématiques en terminales scientifiques, Tome 2.