STRUCTURALISME, mathématique

Concernant les mathématiques, deux « doctrines » assez différentes portent le nom de structuralisme. D'une part, le mot désigne une façon d'envisager l'organisation du champ des mathématiques autour des structures comme le sont les groupes, les ensembles ordonnés, les espaces topologiques, etc. Cette vision a été défendue en France par Nicolas Bourbaki, un collectif de mathématiciens œuvrant en particulier à la rédaction d'un traité général de mathématiques, les Éléments de mathématique (1958-1998), qui joua un rôle déterminant pour cette discipline au cours de la seconde moitié du xx^e siècle, ce traité pouvant être considéré comme la mise en œuvre du point de vue méthodologique structuraliste.

La seconde utilisation du terme structuralisme – qu'il convient de distinguer de la première, même si elle s'appuie parfois sur l'existence du structuralisme méthodologique et des succès qu'il a obtenus dans son travail d'unification – est celle de philosophes, en réponse au problème de Paul Benacerraf sur la nature des nombres (leur existence ne peut pas être celle d'objets isolés, et doit se concevoir collectivement au sein d'une assemblée organisée) : ajustant le point de vue réaliste en mathématiques en l'éloignant de ses formes ontologiques naïves qui affirment « les nombres existent » ou « les ensembles existent », ces philosophes lui substituent une forme plus modérée et plus abstraite qu'on nomme réalisme structuraliste et qui défend que « les structures existent » (structuralisme de Steward Shapiro ou Mickael Resnik) ou seulement que « si les structures existent, alors... » (structuralisme modal de Geoffrey Hellman).

Structuralisme méthodologique de Bourbaki

L'idée que les mathématiques ne sont ni la science des nombres, ni celles des figures, ni celle des ensembles, mais celle des structures, provient de la pratique de l'axiomatisation (progressivement acceptée par tous les mathématiciens), et plus spécifiquement de l'école algébrique de Van den Waerden, mais c'est chez Bourbaki seulement qu'elle prend une forme précise, consciente et systématique, dont l'idée générale a été exprimée par Bourbaki lui-même en 1962 : « Pour définir une structure, on se donne une ou plusieurs relations où interviennent ses éléments [...] ; on postule ensuite que la ou les relations données satisfont à certaines conditions (qu'on énumère) et qui sont les axiomes de la structure envisagée. Faire la théorie d'une structure donnée, c'est déduire les conséquences logiques des axiomes de la structure, en s'interdisant toute autre hypothèse sur les éléments considérés (en particulier toute hypothèse sur leur „nature“ propre). »

Bourbaki place la notion de structure au cœur de sa conception générale des mathématiques, ce qui le conduit même à définir d'une manière formelle (c'est-à-dire entièrement spécifiée mathématiquement) ce qu'est une structure. La définition, assez indigeste – elle occupe plusieurs pages du chapitre IV du livre I des Éléments de mathématique –, a en fait été peu utilisée par Bourbaki lui-même et n'a pas eu de succès dans la communauté internationale où la théorie des catégories, plus souple que la théorie des structures de Bourbaki, a fait oublier rapidement cette tentative d'une définition technique et définitive de la notion de structure. Frédéric Patras fait remarquer que cette définition n'a pas trouvé « de fonction opératoire véritable [...] parce qu'elle est restée à l'état embryonnaire et ne semble jamais avoir été considérée comme un champ de recherche actif parmi les membres du groupe ». Pierre Cartier, ancien du groupe Bourbaki, confirme : « Bourbaki n'a pas produit une théorie mathématique des structures, et n'y tenait peut-être pas. » Notons encore qu'on doit voir la théorie des catégories comme une théorie externe des structures – on y décrit les rapports entre structures sans chercher à en énumérer les composants élémentaires –, à l'opposé de la conception des structures de Bourbaki, chez qui elles se construisent par combinaisons ensemblistes et sont donc déterminées de l'intérieur. Le rapport entre le point de vue interne et le point de vue externe n'a, semble-t-il, été examiné avec soin que par Charles Ehresmann (1905-1979) et ses élèves dans ce qu'ils ont appelé la théorie des « esquisses ».

Aujourd'hui, le point de vue du structuralisme méthodologique dans la pratique des mathématiques semble intégré à la culture de base (selon les domaines des mathématiques, il occupe une place centrale ou secondaire), mais on s'y intéresse très peu comme sujet de recherche. Tout se passe comme si, les structures ayant trouvé leur place parmi d'autres outils, on n'attendait rien de bien intéressant de l'idée même de structure et on déportait son attention sur d'autres questions jugées plus importantes mais d'unité incertaine, car, comme l'indique Frédéric Patras, « on chercherait en vain un grand projet : les rêves hilbertiens et bourbakistes d'unité des mathématiques n'ont plus de cohérence ni de sens, faute d'une conception épistémologique adéquate à laquelle ils viendraient se subordonner. Les questions épistémologiques ont été reléguées hors du champ d'activité des „mathématiciens au travail“, conduisant ainsi à une sclérose culturelle et morale. À l'intérieur même de chaque discipline particulière, la situation est confuse. Un anarchisme méthodique règne le plus souvent qui témoigne d'une grande créativité mais également d'une absence de projets organiques ». Venons-en maintenant à la seconde forme de structuralisme en mathématique : le structuralisme comme attitude vis-à-vis des questions ontologiques.