ANALYSE MATHÉMATIQUE

Représentations linéaires des groupes de Lie ; analyse harmonique

Un autre type de groupe de transformations est fourni par le cas où la variété où opère le groupe est un espace vectoriel complexe E, et où les transformations sont linéaires ; lorsqu'un groupe G agit de cette façon sur E, on dit encore qu'on a une représentation linéaire de G.

L'intérêt se concentre ici sur les représentations irréductibles, c'est-à-dire telles qu'aucun sous-espace vectoriel de E, distinct de E et de {0}, ne soit invariant (globalement) par G ; les deux problèmes principaux sont de déterminer toutes les représentations irréductibles, puis de « reconstituer » les représentations linéaires générales à l'aide des représentations irréductibles.

Lorsque l'on se borne aux représentations linéaires dans des espaces vectoriels E de dimension finie, le problème est essentiellement de nature algébrique, même pour les groupes de Lie (en se ramenant à considérer un problème analogue pour les algèbres de Lie) ; en ce qui concerne les groupes de Lie semi-simples, le problème a été entièrement résolu par Élie Cartan.

L'analyse intervient essentiellement par contre lorsqu'on considère des représentations linéaires dans des espaces fonctionnels E. Par exemple le groupe orthogonal de R³ opère linéairement sur l'ensemble E des fonctions complexes continues définies sur la sphère S de centre O et de rayon 1 : si f est une fonction continue dans S, pour toute matrice orthogonale U, la fonction x → f  (U⁻¹x) sur S est encore continue, et si on la désigne par Uf, l'application f → Uf est linéaire ; on définit ainsi une représentation linéaire du groupe orthogonal dans E.

Cette représentation (étendue à des espaces fonctionnels plus vastes) est précisément celle qui se trouve à la base de la théorie quantique des configurations électroniques des atomes. Mais, comme l'a le premier reconnu É. Cartan, l'étude de ces représentations linéaires « de dimension infinie » est aussi étroitement liée à de nombreuses questions d'analyse, notamment à la théorie de l'équation de Laplace et des « fonctions spéciales » qui s'y rattachent (fonctions sphériques, fonctions de Bessel, de Legendre, etc.). Elle fait encore à l'heure actuelle l'objet de nombreuses et profondes recherches et ne peut être considérée comme achevée que pour deux types particuliers de groupes, les groupes compacts et les groupes commutatifs.

La structure des groupes de Lie commutatifs est triviale, puisque les seuls groupes de Lie commutatifs connexes sont des produits de groupes égaux au groupe additif R ou au groupe (compact) multiplicatif U des nombres complexes de valeur absolue 1. De même il est très facile de déterminer les représentations linéaires irréductibles de ces groupes. Elles sont nécessairement de dimension 1, et leur détermination se ramène à trouver les caractères du groupe G considéré, c'est-à-dire les homomorphismes continus de G dans U : pour G = R, ce sont les fonctions x ↦ e^iξx (ξ réel) et pour G = U, les fonctions ξ ↦ ζⁿ(n entier positif ou négatif). La question intéressante ici est la « reconstitution » des représentations linéaires générales à l'aide des caractères ; on constate que ce n'est autre chose, pour G = U, que la théorie classique des séries de Fourier, et, pour G = R, que l'intégrale de Fourier, d'où le nom d'analyse harmoniqueou de théorie de la transformation de Fourier qu'on lui donne dans le cas général. Son rôle en analyse fonctionnelle (notamment dans la théorie des équations aux dérivées partielles) n'a cessé de grandir, surtout depuis que la théorie des distributions a considérablement élargi son champ d'application.