« Une fonction est continue si l’on peut tracer sa courbe sans lever le crayon. » La phrase circule depuis le lycée jusqu’aux copies de licence, et elle ne définit rien : elle décrit un geste de la main, pas une propriété mathématique. Elle est du reste inutilisable dès que la courbe n’est pas traçable — ce qui arrive vite, comme on le verra.

Cet article poursuit la série Tout tient à la limite et la fait passer des suites aux fonctions. Les trois définitions qu’il compare reposent toutes sur la notion établie dans l’article consacré à ce que disent ε et N.

1. Trois formulations

Soit une fonction définie sur un intervalle , et soit un point de . Voici trois énoncés qui se veulent équivalents.

(D1) Par ε et δ. Pour tout réel , il existe un réel tel que l’on ait pour tout de vérifiant .

(D2) Par les voisinages. Pour tout intervalle ouvert contenant , il existe un intervalle ouvert contenant tel que .

(D3) Par les suites. Pour toute suite d’éléments de qui converge vers , la suite converge vers .

La première est celle des manuels. La deuxième remplace les distances par des ensembles, et c’est elle qui survit lorsqu’on quitte la droite réelle. La troisième ramène tout à des suites, donc à ce que la série a déjà établi.

2. L’équivalence, et son coût

Le passage de (D1) à (D2) est une simple traduction : l’inégalité dit que appartient à l’intervalle ouvert de centre et de rayon , et l’inégalité dit de même pour . Prendre et fait passer d’un énoncé à l’autre dans les deux sens.

Le passage de (D1) à (D3) est presque aussi direct. Supposons (D1), et soit une suite de convergeant vers . Soit . La définition (D1) fournit un , puis la convergence de fournit un rang au-delà duquel . Pour tout entier , il vient , ce qui est (D3).

La réciproque, en revanche, mérite qu’on s’y arrête, car elle ne se démontre pas de front. On établit la contraposée : supposons (D1) fausse, et construisons une suite qui met (D3) en défaut.

La négation de (D1) affirme qu’il existe un tel qu’aucun ne convienne. En particulier, pour chaque entier , le choix échoue : il existe donc un point de vérifiant et . La suite ainsi formée converge vers , tandis que reste à distance au moins de : la propriété (D3) tombe.

Un point mérite d’être signalé, même s’il dépasse le programme. Cette construction choisit un point pour chaque entier , dans une infinité d’ensembles non vides, sans donner de règle explicite de choix. Elle emploie donc une forme faible de l’axiome du choix. Le fait est invisible dans les manuels, et il est réel.

3. À quoi sert d’en avoir trois

Trois énoncés équivalents ne sont pas trois fois le même énoncé. Chacun rend un service que les autres rendent mal.

(D3) est l’outil de réfutation. Pour montrer qu’une fonction n’est pas continue en , il suffit d’exhiber une seule suite convergeant vers dont l’image ne converge pas vers . Un exemple suffit, là où (D1) demanderait de manipuler la négation de deux quantificateurs imbriqués.

(D1) est l’outil de démonstration quantitative. Lorsqu’il faut majorer effectivement, produire un en fonction de est le seul moyen. C’est aussi la forme qui se généralise en continuité uniforme, où l’on exige que ne dépende pas du point — la distinction rencontrée dans l’exercice du 20 août.

(D2) est celui qui survit. Elle ne mentionne ni valeur absolue, ni distance, ni suite : seulement des ensembles ouverts. Elle garde donc un sens dans n’importe quel espace topologique, où les deux autres n’en ont plus. C’est la définition qui permet de parler de continuité pour des fonctions entre espaces de fonctions, et le blog l’a déjà employée sous cette forme dans ses articles de topologie générale.

Il y a là une leçon qui dépasse la continuité. Démontrer que deux définitions sont équivalentes, ce n’est pas constater une redondance : c’est gagner le droit de choisir, à chaque démonstration, celle qui coûte le moins.

4. Ce que le crayon ne voit pas

Revenons à la phrase du début. Considérons la fonction définie sur par si est rationnel, et sinon. Elle est continue en et discontinue en tout autre point.

La continuité en se voit avec (D1) : on a pour tout réel , donc le choix convient. La discontinuité ailleurs se voit avec (D3) : en un point non nul, on approche par des rationnels, dont les images tendent vers , puis par des irrationnels, dont les images valent . Les deux limites diffèrent.

Aucun crayon ne trace cette courbe, et pourtant la question de sa continuité a une réponse exacte, en chaque point. C’est tout l’écart entre une image et une définition : l’image échoue dès que l’objet cesse d’être dessinable, la définition continue de fonctionner.

Le prochain article de la série propose quatre fonctions et quatre défauts de continuité distincts, et demande, pour chacun, laquelle des trois définitions le repère le plus vite.

---

La continuité des fonctions numériques d’une variable réelle fera l’objet du Volume II du Discours formel sur les mathématiques pour le secondaire, en préparation. Les notions d’ensemble ouvert et de voisinage, sur lesquelles repose la deuxième formulation, sont exposées au chapitre 1 du Volume I.