ANALYSE MATHÉMATIQUE

L'avènement de la théorie des ensembles et de la topologie

La notion de limite est la base même du calcul infinitésimal ; mais, bien que certains d'entre eux, dont d'Alembert, aient approché d'une définition pour nous correcte, les mathématiciens du xviii^e siècle étaient hors d'état de développer une théorie mathématique rigoureuse du « calcul », sur le modèle de la géométrie grecque, et devaient se contenter de justifications heuristiques de leurs découvertes.

C'est seulement avec Bolzano, Abel et Cauchy que les notions de limite et de continuité sont enfin définies sans ambiguïté et de façon utilisable dans les démonstrations. À cette occasion, Bolzano et Cauchy dégagent le critère fondamental (dit «  critère de Cauchy ») d'existence de la limite d'une suite (u_n) de nombres réels : pour tout ε > 0, il existe un entier n₀ tel que, si m et n sont tous deux au moins égaux à n₀, on a |u_m − u_n| ≤ ε (autrement dit, à partir d'un certain rang, tous les termes de la suite sont « très voisins les uns des autres ») ; son grand intérêt est qu'il permet de prouver l'existence d'une limite sans connaître à l'avance sa valeur. Ce critère est d'ailleurs équivalent à l'existence de la borne supérieure d'un ensemble majoré de nombres réels, ou au « principe des intervalles emboîtés », suivant lequel une suite dénombrable d'intervalles fermés bornés dont chacun contient le suivant a nécessairement un point commun. Cauchy semble avoir considéré ce dernier principe comme évident ; de fait, il peut, avec les propriétés usuelles des nombres réels vis-à-vis des opérations algébriques et de la relation d'ordre, servir de caractérisation axiomatique à ces nombres.

Mais, vers le milieu du xix^e siècle, avec l'élargissement de la notion de fonction, commencent à apparaître, en analyse, les « monstres », êtres mathématiques aux propriétés insolites, en opposition flagrante avec l'« intuition » que nous croyons avoir de l'espace : « courbes » sans tangente en aucun point, « courbes » remplissant tout un carré, etc. Les constructions conduisant à ces objets extraordinaires étaient en tout point rigoureuses, une fois admis le critère de Cauchy ; on pouvait à bon droit se demander si ce dernier ne recelait pas le germe de contradictions dont les « monstres » auraient été les manifestations. Ce doute fut levé par les travaux à peu près simultanés de Weierstrass, de Méray, de Cantor et de Dedekind, qui, par divers procédés, définirent les nombres réels à partir des nombres rationnels, au moyen de l'opération que nous appelons maintenant complétion, assurant donc la non-contradiction de l'analyse, pourvu que soit admise celle de l'arithmétique.

En même temps, les progrès de l'analyse amenaient Cantor à dégager deux types de notions toutes nouvelles : d'une part, les concepts de correspondance biunivoque, de dénombrabilité (et, plus généralement, de puissance d'un ensemble), et plus tard celui d'itération « transfinie », qui inauguraient la théorie générale des ensembles ; d'autre part, dans l'ensemble R des nombres réels, puis dans le plan et les espaces à n dimensions Rⁿ, les idées de point d'accumulation, d'ensemble fermé, d'ensemble parfait, d'ensemble ouvert, qui allaient donner naissance à la topologie.

Mais pour fonder cette dernière, il fallait encore que fût dégagée de façon précise la notion capitale d' homéomorphisme. Les remarquables découvertes de Cantor sur les puissances des ensembles y contribuèrent pour une bonne part : quand il eut prouvé qu'un segment de droite non réduit à un point et un carré pouvait être mis en correspondance biunivoque, Dedekind comprit aussitôt que ce résultat surprenant, en contradiction[...]