NOTATION MATHÉMATIQUE

Le style mathématique

On a déjà parlé des différences de style entre les langues naturelles et la langue de la mathématique à l'occasion des ponctuations et des variables. Une autre divergence s'est développée depuis un siècle dans le style des liaisons de variables, en particulier dans l'indication des quantificateurs. S'il est vrai qu'on connaissait dès la logique d'Aristote les quantificateurs universel (tous) et existentiel (quelques), ceux-ci ne s'appliquaient qu'aux prédicats à un seul sujet, non aux relations qui contiennent plusieurs sujets. Au cours du développement d'une mathématique plus conceptuelle, les structures logiques des notions devinrent de plus en plus compliquées, et le degré de complication s'exprimait dans le nombre de quantificateurs successifs et alternants. Un concept paradigmatique au moyen duquel les mathématiciens apprenaient à créer des outils linguistiques utiles est celui de la continuité. À des changements infinitésimaux de x correspondent des changements infinitésimaux de y, dit Cauchy, pour formuler que, si x change peu, alors y change peu. Ce sont des « peu » différents ; le premier devrait être précisé par un adverbe « suffisamment », le second par « arbitrairement », c'est-à-dire que le premier cache un quantificateur existentiel et le second un quantificateur universel. Même cette précision ne nous suffit plus ; on demande aujourd'hui non seulement des quantificateurs explicites et non cachés, mais aussi l'indication explicite de leur ordre de succession. Les langues naturelles peuvent se permettre les mêmes moyens linguistiques pour indiquer les quantifications différentes : dans « une voiture coûte de l'argent » et « j'ai une voiture », une est, dans un cas, un quantificateur universel et, dans l'autre, un quantificateur existentiel ; de même, dans « qui trop embrasse, mal étreint », trop cache un quantificateur existentiel et mal un quantificateur universel. Les mathématiciens ne peuvent plus se permettre de telles libertés, et c'est la raison pour laquelle ils ont développé un style particulier où la définition de la continuité d'une fonction f au point x₀ se lit : « Pour chaque ε positif, il y a un δ positif tel que, pour chaque x avec |x − x₀| < δ on ait |f (x) − f (x₀)| < ε. »

Quoique cela se formule avec les moyens linguistiques d'une langue naturelle, on est très loin de cette dernière d'un point de vue stylistique.

L'évolution qui a conduit à ce style utilisant les quantificateurs s'est faite peu à peu. Elle est loin d'être achevée. Prenons un exemple qui est encore reçu, mais qui ne le sera plus dans vingt ans. Pour démontrer que √2 est irrationnel, on raisonnerait ainsi : « Supposons au contraire l'existence d'entiers p et q tels que √2 = p/q et qui peuvent être supposés sans diviseur commun. Alors p² = 2 q²... », et on aboutirait à une contradiction. Les variables p et q sont liées existentiellement dans la première phrase, et on les prend libres dès la suivante ; si, dans la première phrase, on remplace les variables p et q par d'autres variables, les variables de la seconde auront perdu leur support. Un autre exemple de ce genre est la définition usuelle de concepts comme celui du groupe G où l'on postule l'existence d'un e tel que ae = ea = a pour tous les a ∈ G, pour continuer avec le postulat de l'existence d'un a⁻¹ ∈ G pour tout a ∈ G tel que aa⁻¹ = a⁻¹ a = e.

Ce qu'il faut dans tous ces cas, c'est annoncer explicitement que les variables liées existentiellement seront désormais employées en tant que noms propres d'objets qui remplissent la condition imposée.

C'est un développement très récent du style mathématique que de séparer nettement[...]