GROUPES (mathématiques) Groupes classiques et géométrie

Jusque vers 1800, la géométrie dite « élémentaire » est restée à peu de chose près ce qu'elle était dans l'Antiquité, tant dans sa substance que dans ses méthodes (l'invention de la « géométrie analytique » ayant à peu près exclusivement servi à prolonger le champ d'action de la géométrie classique dans les directions de la géométrie algébrique et de la géométrie différentielle). Mais, même dans les exposés d'Euclide et de ses continuateurs, bien que l'intérêt se concentre sur les propriétés des figures « classiques » (triangle, rectangle, parallélogramme, cercle, coniques, etc.), les isométries ( transformations de l'espace ou du plan conservant les distances) jouent un rôle essentiel, non toujours explicité ; le fait qu'elles forment un groupe était implicitement utilisé bien avant que la notion abstraite de groupe ne se fût dégagée. À partir de 1800 environ, avec le développement de la géométrie projective, on commence à distinguer, parmi les notions géométriques invariantes par isométrie, celles qui sont de nature « descriptive » de celles que l'on qualifie de « métriques », les premières restant invariantes par des transformations plus générales, à savoir celles qui transforment linéairement les coordonnées cartésiennes ; par exemple, dans le plan, au point (x, y) correspond le point (x′, y′) tel que :

C'est ainsi que, par une telle transformation, une médiane d'un triangle se transforme en une médiane du triangle image : la notion de médiane est « descriptive » ; au contraire, une hauteur d'un triangle n'a pas cette propriété : la notion de hauteur est « métrique ». Avec Félix Klein et son «   programme d'Erlangen » (1872), cette distinction s'est précisée, et le concept même de « géométrie » a reçu une définition générale, englobant la géométrie classique (dite aussi « euclidienne »), la géométrie projective, la géométrie conforme, les géométries « non euclidiennes », etc. : une géométrie est l'étude des notions et des propriétés qui restent invariantes par un groupe donné de transformations. De ce fait, la « géométrie », après Klein, est devenue essentiellement l'étude de ces groupes, les propriétés des « figures » classiques passant au second plan ; plus généralement, dans toutes les parties des mathématiques où intervient un espace homogène G/H (ou, ce qui revient au même, un espace dans lequel un groupe G opère transitivement), un principe fécond est d'en ramener l'étude à celle du groupe G lui-même.

Les groupes envisagés par Klein et certaines de leurs généralisations sont connus sous le nom de « groupes classiques » ; en tant que groupes de Lie, ils correspondent aux algèbres de Lie simples « classiques » (cf. groupes [mathématiques] – Groupes de Lie) et, de ce fait, la théorie des représentations linéaires (de dimension finie) et des invariants de ces groupes peut être regardée comme entièrement connue (ibid.) ; ce qui, en un certain sens, permet de considérer les « géométries » correspondantes comme essentiellement achevées et ne présentant plus aucun problème digne de recherches mathématiques sérieuses.

Nous allons parler d'abord en détail des deux groupes les plus liés à la géométrie classique, le groupe linéaire général et le groupe orthogonal ; mais nous nous placerons d'emblée dans la géométrie à n dimensions (n arbitraire ≥ 2). Nous supposons connus du lecteur les notions et résultats fondamentaux de l'algèbre linéaire et multilinéaire, exprimés dans le langage géométrique des espaces vectoriels ou projectifs (cf. algèbre linéaire) ; il pourra voir combien l'algèbre linéaire facilite, dans ces groupes, la solution de problèmes qui présentent de grandes difficultés[...]