SINGULARITÉS DES FONCTIONS DIFFÉRENTIABLES, la théorie mathématique et ses applications

Points singuliers non dégénérés

Sur une variété compacte, une fonction a nécessairement des points singuliers (c'est-à-dire non réguliers), à savoir les extrémums. Nous étudions dans ce chapitre les points singuliers les plus simples (et aussi les plus courants) ; ainsi que les points réguliers, ils sont caractérisés par une propriété de stabilité et, comme dans bien des cas, la source de cette stabilité est une situation de transversalité : rappelons qu'une application f d'une variété N dans une variété P est transverse en a ∈ N à la sous-variété Q de P, ou bien si f (a) ∉ Q, ou bien si f (a) ∈ Q et si l'espace tangent en f (a) à P est engendré par l'espace tangent en f (a) à Q et l'image par Df (a) de l'espace tangent en a à N :

Si ξ : R^p → R^p-q est une équation locale de Q au voisinage de f (a), la condition de transversalité équivaut à dire que D(ξ ∘ f )(a) est de rang p − q ; on en déduit immédiatement que, si g est assez proche de f au voisinage de a dans la topologie C¹ et si b est assez proche de a, alors g est encore transverse en b à Q (cf. Transversalité, chapitre 5 de topologie - Topologie différentielle).

À titre d'exemple, étant donné une fonction f : Rⁿ → R de classe C², considérons l'application :

La transversalité en a ∈ Rⁿ de Df à la sous-variété réduite au point 0 signifie ou bien que Df (a) ≠ 0, ou bien que Df (a) = 0 et :

Dans ce dernier cas, on dit que a est un point singulier non dégénéré (ou point singulier de Morse) de f. Remarquons qu'un tel point singulier est isolé et que, si g est assez proche de f au voisinage de a dans la topologie C² (c'est-à-dire pour laquelle toutes les fonctions :

Cependant, contrairement à ce qui se passait pour les points réguliers en vertu du lemme de Sard, une fonction f : Rⁿ→ R de classe C^∞ peut très bien avoir tous ses points singuliers dégénérés (c'est-à-dire non « non dégénérés »). Le raisonnement suivant, exemple typique de l'utilisation du lemme de Sard dans les théorèmes de transversalité de Thom, montre qu'on peut remédier à cela par une petite perturbation de f : considérons la sous-variété (c'est un graphe !) V de Rⁿ× L (Rⁿ, R) définie par :

D'après le lemme de Sard, il existe L₀ aussi près que l'on veut de 0 tel que tout point (x, L₀) appartenant à V soit un point régulier de la restriction à V de la projection de Rⁿ× L(Rⁿ, R) sur son deuxième facteur ; on voit facilement que cela signifie que tous les points singuliers de f + L₀ sont non dégénérés.

Ce résultat rend plausible le théorème suivant : Soit N une variété compacte de classe C^∞ (il suffit qu'elle soit de classe C²) et soit C^∞(N, R) l'espace des fonctions C^∞ sur N muni de la topologie C^∞ (convergence uniforme de f et de ses dérivées partielles de tous les ordres dans chaque carte d'un atlas de N) ; l'ensemble des fonctions de Morse (fonctions dont tous les points singuliers sont non dégénérés) est ouvert et dense.

Il est honnête, à ce point, de vérifier que la notion de point singulier non dégénéré garde un sens sur une variété : cette question n'est pas inoffensive car, si la dérivée d'une application f de N dans R a toujours un sens intrinsèque en a ∈ N (car c'est une forme linéaire sur l'espace tangent T_aN), la matrice :