CANTOR GEORG (1845-1918)

Cantor et Dedekind, une relation déterminante

Une fonction périodique d’une variable réelle s’écrit-elle de manière unique comme série convergente de fonctions trigonométriques ? Heinrich Eduard Heine (1821-1881), collègue de Cantor à Halle, pose cette question. Cantor la résout affirmativement pour le cas des fonctions continues dans son mémoire « Sur l’extension d’un théorème de la théorie des séries trigonométriques » publié en 1872 dans les Mathematische Annalen. Pour les besoins de sa démonstration, Cantor expose d’abord sa théorie des nombres réels. Partant de l’ensemble Q des nombres rationnels, il considère des suites (a_i) d’éléments de Qobéissantau critère de Cauchy, c’est-à-dire telles qu’à partir d’un certain rang n,a_n+m – a_n< pour tout nombre rationnel positif. Ces suites (a_i) ont chacune une limite b. Le domaine B de telles limites b que, plus loin dans l’article, Cantor appelle « ensemble dérivé », est exactement l’ensemble des grandeurs réelles, identifié axiomatiquement à l’ensemble continu des points d’une droite. L’ensemble des grandeurs réelles représente donc le continu numérique, correspondant exact du continu géométrique linéaire. À cette date, Cantor n’a pas encore adopté la dénomination « nombre réel » introduite la même année par Dedekind dans l’opuscule Continuité et nombres irrationnels, où les réels sont définis par des « coupures » dans l’ensemble des rationnels – une coupure est une partition de l’ensemble des nombres rationnels en deux sous-ensembles A et B tels que tout élément de A est plus petit que tout élément de B ; la coupure (A, B) représente l’unique nombre réel entre A et B et Dedekind montre que l’ensemble des coupures se comporte exactement comme l’ensemble des nombres réels, et peut donc servir à le définir. L’étude des points de discontinuité des fonctions pour lesquelles son théorème reste vérifié conduira Cantor à la notion d’ensemble de points, qui constitue la phase préparatoire à la considération ultérieure d’ensembles d’éléments non spécifiés.

Lors d’un voyage en Suisse en 1872, Cantor fait la connaissance de Richard Dedekind. Ce fut une rencontre décisive : une correspondance suivie entre les deux mathématiciens, publiée de façon posthume par les soins de Jean Cavaillès et Emmy Nœther en 1937, montre le rôle de Dedekind, mathématicien réputé pour sa rigueur démonstrative, dans le développement par Cantor de la théorie des ensembles. Les questions tournent autour de la distinction entre discret et continu, entre différents infinis et entre différents continus. Le critère est l’existence d’une correspondance bijective : si l’on peut trouver une bijection entre deux ensembles, ceux-ci ont le même degré dans l’échelle des infinis. Ainsi l’ensemble des entiers et l’ensemble de leurs carrés peuvent être mis en bijection, de même l’ensemble des points de deux segments ou deux arcs de courbe de longueurs inégales. Ces deux exemples de paires d’ensembles discrets et d’ensembles continus respectivement étaient connus de Thābit Ibn Qurra (836-901) et de Galilée (1564-1642), mais n’en restaient pas moins déroutants.

En 1873, Cantor évoque à Dedekind la distinction entre dénombrable et continu. Un ensemble est dénombrable s’il existe une bijection entre lui et l’ensemble N des nombres entiers ; un ensemble est continu s’il existe une bijection entre lui et l’ensemble R des nombres réels. Cantor montre que l’ensemble des nombres rationnels est dénombrable, Dedekind lui communique le même résultat pour les nombres algébriques, c’est-à-dire les nombres qui sont racines d’équations à coefficients entiers. Cantor se demande s’il existe une bijection entre N et R. À la suite de la discussion avec Dedekind, il publie en 1874 « Sur une propriété de l’ensemble de tous les nombres réels algébriques »,où il montre que cet ensemble est dénombrable et que celui des réels ne l’est pas. Il en conclut l’existence d’une infinité non dénombrable de nombres réels transcendants, alors que l’on n’en connaissait effectivement que quelques-uns – le nombre  connu depuis l’Antiquité grecque, mais dont la transcendance n’est démontrée qu’en 1882 par Ferdinand von Lindemann ; les « nombres de Liouville » dont l’existence fut démontrée en 1844 ; le nombre e, base du logarithme népérien, dont Charles Hermite démontre la transcendance en 1873. En 1891, Cantor publie une nouvelle démonstration (traduction française dans Logique et fondements des mathématiques, Anthologie, Paris, Payot, 1992) beaucoup plus simple et générale, de la non-dénombrabilité de R ; celle-ci est fondée sur la fameuse méthode diagonale grâce à laquelle il démontre que pour tout ensemble infini E l’ensemble des parties de E a une « puissance » strictement supérieure à celle de E. Cela signifie qu’il n’y a pas seulement deux infinis différents, le dénombrable et le continu, mais une infinité, exactement comme il y a une infinité de nombres finis. Signalons au passage que le procédé diagonal sera utilisé par Kurt Gödel (1906-1978) pour démontrer, en 1931, l’incomplétude de l’arithmétique élémentaire et deviendra un outil caractéristique des mathématiques du xx^e siècle.

Cantor pose une autre question à Dedekind : une surface peut-elle être mise en correspondance bijective avec une courbe ? Par exemple, existe-t-il une bijection entre l’ensemble des points d’un carré construit sur l’intervalle [0, 1] et l’ensemble des points de cet intervalle ? En fait, Cantor a déjà répondu par l’affirmative, mais le résultat est si contraire à l’intuition qu’il sollicite l’avis de Dedekind : « Je le vois, mais je ne le crois pas », lui écrit-il. On ne pouvait imaginer en effet que la notion si fondamentale de dimension d’un espace continu (égale à 2 pour le carré, à 1 pour l’intervalle, à 3 pour un cube, etc.) n’intervienne pas dans celle de cardinalité. La sagacité de Dedekind détecte le point resté obscur pour Cantor : la bijection construite par Cantor est partout discontinue, d’une « discontinuité à donner le vertige ». Dedekind estime à juste titre impossible de trouver entre les points du carré et ceux de l’intervalle une bijection bicontinue, c’est-à-dire telle que la fonction et sa réciproque sont toutes deux continues.