CANTOR GEORG (1845-1918)

Cantor et Dedekind, une relation déterminante

Une fonction périodique d’une variable réelle s’écrit-elle de manière unique comme série convergente de fonctions trigonométriques ? Heinrich Eduard Heine (1821-1881), collègue de Cantor à Halle, pose cette question. Cantor la résout affirmativement pour le cas des fonctions continues dans son mémoire « Sur l’extension d’un théorème de la théorie des séries trigonométriques » publié en 1872 dans les Mathematische Annalen. Pour les besoins de sa démonstration, Cantor expose d’abord sa théorie des nombres réels. Partant de l’ensemble Q des nombres rationnels, il considère des suites (a_i) d’éléments de Qobéissantau critère de Cauchy, c’est-à-dire telles qu’à partir d’un certain rang n,a_n+m – a_n< pour tout nombre rationnel positif. Ces suites (a_i) ont chacune une limite b. Le domaine B de telles limites b que, plus loin dans l’article, Cantor appelle « ensemble dérivé », est exactement l’ensemble des grandeurs réelles, identifié axiomatiquement à l’ensemble continu des points d’une droite. L’ensemble des grandeurs réelles représente donc le continu numérique, correspondant exact du continu géométrique linéaire. À cette date, Cantor n’a pas encore adopté la dénomination « nombre réel » introduite la même année par Dedekind dans l’opuscule Continuité et nombres irrationnels, où les réels sont définis par des « coupures » dans l’ensemble des rationnels – une coupure est une partition de l’ensemble des nombres rationnels en deux sous-ensembles A et B tels que tout élément de A est plus petit que tout élément de B ; la coupure (A, B) représente l’unique nombre réel entre A et B et Dedekind montre que l’ensemble des coupures se comporte exactement comme l’ensemble des nombres réels, et peut donc servir à le définir. L’étude des points de discontinuité des fonctions pour lesquelles son théorème reste vérifié conduira Cantor à la notion d’ensemble de points, qui constitue la phase préparatoire à la considération ultérieure d’ensembles d’éléments non spécifiés.

Lors d’un voyage en Suisse en 1872, Cantor fait la connaissance de Richard Dedekind. Ce fut une rencontre décisive : une correspondance suivie entre les deux mathématiciens, publiée de façon posthume par les soins de Jean Cavaillès et Emmy Nœther en 1937, montre le rôle de Dedekind, mathématicien réputé pour sa rigueur démonstrative, dans le développement par Cantor de la théorie des ensembles. Les questions tournent autour de la distinction entre discret et continu, entre différents infinis et entre différents continus. Le critère est l’existence d’une correspondance bijective : si l’on peut trouver une bijection entre deux ensembles, ceux-ci ont le même degré dans l’échelle des infinis. Ainsi l’ensemble des entiers et l’ensemble de leurs carrés peuvent être mis en bijection, de même l’ensemble des points de deux segments ou deux arcs de courbe de longueurs inégales. Ces deux exemples de paires d’ensembles discrets et d’ensembles continus respectivement étaient connus de Thābit Ibn Qurra (836-901) et de Galilée (1564-1642), mais n’en restaient pas moins déroutants.

En 1873, Cantor évoque à Dedekind la distinction entre dénombrable et continu. Un ensemble est dénombrable s’il existe une bijection entre lui et l’ensemble N des nombres entiers ; un ensemble est continu s’il existe une bijection entre lui et l’ensemble R des nombres réels. Cantor montre que l’ensemble des nombres rationnels est dénombrable, Dedekind lui communique le même résultat pour les nombres algébriques, c’est-à-dire les nombres qui sont racines d’équations à coefficients entiers. Cantor se demande s’il existe une bijection entre N et R. À la suite de la discussion avec Dedekind, il publie en 1874 « Sur une propriété de l’ensemble de tous les nombres réels[...]