Une formule mathématique est une suite de signes. Elle ne devient vraie ou fausse qu’une fois placée dans un monde qui donne un sens à ces signes. Cette distinction entre ce qui relève de l’écriture et ce qui relève du sens — entre la syntaxe et la sémantique — n’est presque jamais énoncée dans l’enseignement secondaire. Elle est pourtant ce qui sépare « démontrer » de « être vrai », et sans elle le mot « démonstration » reste une intuition floue.
Cet article ouvre une nouvelle rubrique du blog, Niveau supérieur, consacrée aux articles de niveau universitaire rédigés en français. Il inaugure une série sur les fondements, tirée du chapitre 2 du Discours formel sur les mathématiques pour le secondaire.
1. Une confusion ordinaire
Considérons l’écriture suivante :
Est-elle vraie ? La question, telle quelle, n’a pas de réponse. Elle en aura une dès qu’on aura précisé de quoi parlent et
, et ce que désigne le signe
. Tant que ce n'est pas fait, nous n'avons devant nous qu'une suite de symboles correctement assemblés — rien de plus, mais rien de moins.
2. La syntaxe : un jeu de construction
Se donner un langage du premier ordre, c’est se donner deux choses. D’abord un alphabet logique, commun à tous les langages : des variables , les connecteurs
, les quantificateurs
et
, le signe d’égalité, les parenthèses et la virgule. Ensuite une signature propre au langage considéré : des symboles de constante, des symboles de fonction et des symboles de relation, chacun affecté d’une arité.
Sur cet alphabet, deux règles de formation engendrent tout le reste. Les termes d’abord : une variable est un terme, une constante est un terme, et si est un symbole de fonction d’arité
et si
sont des termes, alors
est un terme. Les formules ensuite : si
est un symbole de relation d’arité
, alors
est une formule, dite atomique, de même que
; et si
et
sont des formules, alors
,
,
et
en sont aussi.
Ce qu’il faut retenir de ces règles n’est pas leur contenu, qui est terne, mais leur nature : elles sont purement mécaniques. Décider si est bien formée, et si
ne l'est pas, ne demande de comprendre absolument rien. Une machine le fait. C'est là toute la syntaxe : un jeu de construction dont les pièces n'ont pas de sens.
3. La sémantique : il faut un monde
Pour qu’une formule signifie quelque chose, il faut lui fournir un monde où l’interpréter. Un tel monde s’appelle une structure.
Définition. Une structure
pour un langage
est la donnée d’un ensemble non vide
, appelé domaine, et d’une interprétation de chaque symbole de
: à chaque symbole de constante un élément de
, à chaque symbole de fonction d’arité
une application de
dans
, à chaque symbole de relation d’arité
une partie de
.
Une fois la structure fixée, on définit par récurrence sur la construction des formules ce que signifie « est satisfaite dans
», ce qu’on note
. C’est la définition de Tarski. Notons le point essentiel : le symbole
ne relie pas une formule à la vérité, mais une formule à une structure. La vérité toute seule, sans monde où la mesurer, n’est pas une notion mathématique.
4. Une même formule, deux verdicts
Reprenons , dans le langage à un seul symbole de relation binaire.
- Dans la structure
, la formule est satisfaite : pour tout
, l'entier
convient.
- Dans la structure
, elle ne l'est pas : aucun élément ne dépasse 2.
La chaîne de symboles est rigoureusement la même ; les verdicts sont opposés. Un second exemple, plus parlant peut-être : dans le langage des anneaux, la formule est satisfaite dans
et ne l’est pas dans l’anneau des matrices carrées d’ordre 2. Rien dans l’écriture ne permet de trancher — il faut sortir de l’écriture.
5. Variables libres : pourquoi « x² = 4 » n’est ni vrai ni faux
Dans , la variable
est liée par le quantificateur, tandis que
reste libre. Une formule sans variable libre s’appelle un énoncé clos ; seuls les énoncés clos reçoivent une valeur de vérité dans une structure. Une formule à variables libres, elle, ne définit pas une proposition mais une partie du domaine : celle des éléments qui la satisfont.
Cela éclaire une habitude scolaire tenace. L’écriture n’est ni vraie ni fausse : la variable
y est libre. Dans la structure
, cette formule définit la partie
; dans
, elle définit
; dans
, où 4 et 1 désignent le même élément, elle définit
, puisque
et
. Une seule et même suite de symboles, trois ensembles différents.
Résoudre une équation, c’est donc exactement ceci : déterminer, dans une structure fixée, l’ensemble des valeurs de la variable libre qui satisfont une formule. Une opération sémantique menée sur un objet syntaxique. Que l’on omette de préciser la structure, et l’énoncé « résoudre » devient littéralement incomplet.
6. Démontrer n’est pas être vrai
Nous pouvons maintenant nommer proprement deux relations que l’enseignement confond régulièrement.
— syntaxique. Il existe une démonstration de
à partir de
, c’est-à-dire une suite finie de formules dont chacune est un axiome ou se déduit des précédentes par une règle. Vérifier une telle suite est une opération mécanique.
— sémantique. Toute structure qui satisfait
satisfait
. Il s’agit d’une quantification sur tous les mondes possibles, dont il n’y a aucune raison a priori qu’elle soit vérifiable.
Ces deux notions sont de nature entièrement différente : l’une parle de suites de signes, l’autre de mondes. Qu’elles coïncident est un théorème, et un théorème difficile.
Théorème de complétude (Gödel, 1930). Pour la logique du premier ordre,
si, et seulement si,
.
Une précaution s’impose ici, car la confusion est fréquente : il s’agit du théorème de complétude, et non des théorèmes d’incomplétude publiés l’année suivante. Les deux ne se contredisent nullement. L’énoncé de Gödel construit en 1931 pour une théorie arithmétique convenable est vrai dans
mais faux dans certains autres modèles de
; on n’a donc pas
, et la complétude n’exige alors aucune démonstration. Être vrai dans le modèle standard et être vrai dans tous les modèles sont deux choses distinctes — distinction qui, une fois de plus, n’est lisible que si l’on a séparé la syntaxe de la sémantique.
Ces notions sont exposées en détail au chapitre 2 de Discours formel sur les mathématiques pour le secondaire, Volume I, qui les met ensuite à l’œuvre sur l’axiomatisation de la géométrie du plan.