CANTOR GEORG (1845-1918)

L’invention du transfini

Dans une suite de mémoires publiés de 1878 et à 1891, Cantor généralise à l’infiniment grand la notion de nombre entier fini et construit une arithmétique dont les règles spécifiques diffèrent partiellement de celles des nombres finis. Le premier acte en est l’affirmation fondamentale qu’il y a « après le fini, un transfini […], c’est-à-dire une échelle illimitée de modes déterminés qui par nature ne sont pas finis, mais infinis, et qui cependant peuvent être précisés, tout comme le fini, par des nombres déterminés, bien définis et distinguables les uns des autres ». C’est bien la première fois que l’on parle de « nombres infinis », les nombres des ensembles infinis en acte. Cela provoque l’opposition ou la méfiance de nombreux mathématiciens, au premier rang desquels Kronecker. Cantor en pâtit, mais ne renonce pas : il définit la notion de « puissance » d’un ensemble infini, qu’il identifie finalement à celle de nombre cardinal. Le nombre cardinal correspond à l’opération de comptage, indifférente à l’ordre dans lequel on compte les différents éléments, tandis que le nombre ordinal correspond à l’énumération ou numérotation d’une suite d’éléments. Les deux notions sont confondues pour une collection finie, le dernier élément énuméré marquant aussi le nombre cardinal de la collection. Mais elles se distinguent dans l’infini. Montrons-le par des exemples simples. Soient les trois ensembles E = {1, 2, 3, 4,…}, F = {2, 3, 4,…, 1} et G = {1, 3, 5,…, 2, 4, 6,…}. Ces trois ensembles ont le même cardinal transfini, celui de l’ensemble dénombrable N, mais des ordinaux transfinis différents, respectivement : , + 1, + . En revanche, les ensembles H = {1, 2, 3, 4,…} et J = {2, 1, 4, 3,…}, dont les éléments n’apparaissent pas dans le même ordre, ont cependant le même nombre ordinal, c’est-à-dire le même « type d’ordre » et, bien sûr, le même nombre cardinal dénombrable. Ce qui est identique en H et J, ce n’est pas l’ordre, mais l’énumération, qui est du même type que celle de N, abstraction faite de quel élément concret occupe la première place, quel élément la seconde place, quel la troisième place, et ainsi de suite. Seul compte le type de succession, non les éléments concrets occupant les places de la succession. Ainsi, , qui dénote le premier ordinal transfini, désigne l’ordre des ensembles infinis discrets avec premier élément et sans dernier élément ; l’ordre des ensembles infinis denses (entre deux éléments on peut toujours en trouver un troisième comme c’est bien le cas dans Q) sans premier ni dernier élément ; l’ordre continu des nombres réels. Moyennant le théorème de Zermelo (1871-1953) établissant que tout ensemble peut être bien ordonné, c’est-à-dire tel que toute partie propre non vide possède un plus petit élément, on peut prolonger aux ordinaux transfinis l’induction complète ordinaire utilisée dans le raisonnement par récurrence.

L’échelle des cardinaux transfinis commence par ₀, cardinalde N, de Q, et de l’ensemble des nombres algébriques. L’ensemble R des nombres réels a la puissance du continu. D’où la question dont Cantor a cherché la solution toute sa vie : le cardinal du continu est-il le successeur immédiat du cardinal du dénombrable ? C’est la fameuse « hypothèse du continu », inscrite par Hilbert en tête de sa fameuse liste de problèmes ouverts, proposée au Congrès international des mathématiciens, tenu à Paris en 1900. La réponse viendra plus tard et en deux temps : en 1938, Gödel montre la compatibilité de cette hypothèse avec les axiomes habituels, dits de Zermelo-Fraenkel, de la théorie des ensembles ; et, en 1963, Paul Cohen (1934-2007) en démontre l’indépendance.

La théorie des ensembles s’est imposée rapidement comme langage des théories[...]