Abonnez-vous à Universalis pour 1 euro

STOCHASTIQUES PROCESSUS ou PROCESSUS ALÉATOIRES

Processus de Markov

L'étude statistique de la succession des caractères utilisés pour composer un texte dans une langue particulière a suggéré à Markov un schéma d'enchaînement aléatoire avec liaison (par exemple, en anglais, la fréquence de la lettre h après un t est très supérieure à ce qu'elle est après un d).

Soit Xt, soit t1, t2, ..., tn, t une suite croissante d'instants, soit enfin X1, X2, ..., Xn, X les valeurs aléatoires correspondantes, la loi conditionnelle de X connaissant (X1, X2, ..., Xn) dépend de (tn, Xn, t ), c'est-à-dire que les valeurs successives sont liées entre elles ; Markov fait l'hypothèse que la dernière valeur connue et le dernier instant résument toute l'information ; on développe plus complètement la théorie en supposant que les lois conditionnelles sont invariantes par translation sur l'échelle des temps, c'est-à-dire que :

ne dépend que de (t − tn) et de xn ; le processus de Markov est alors dit homogène dans le temps. Deux cas sont à considérer relativement à l'ensemble T des instants : T est dénombrable (processus discret ou suite de Markov) ; T est continu (processus permanent). De plus, trois cas sont à distinguer relativement à l'ensemble E des valeurs possibles de X (états du système) : cas fini E = {1, 2, ..., k} ; cas dénombrable E = N ; cas continu E = R.

Cas fini

Considérons le cas où E = {1, 2, ..., k} et T = {t1, t2, ..., tn, ...}. Il suffit de donner la loi initiale des états, c'est-à-dire le vecteur colonne P0 de composantes p0h = p{X0 = h}, pour h = 1, 2, ..., k, et la matrice carrée, d'ordre k, M = ∥pij∥, où :

La matrice M est dite matrice de Markov ou matrice des probabilités de passage. La loi des états à la date n est définie par le vecteur Pn de composantes :

tel que Pn = MnP0.

La matrice carrée d'ordre k des probabilités de passage entre t et t + n est indépendante de t et vaut :

Le problème le plus important concerne le comportement limite, pour n infini, de Mn et de Pn. La solution complète de ce problème est obtenue par l'analyse spectrale de l'opérateur linéaire M (cf. théorie spectrale et calcul des probabilités, chap. 10) ; mais des renseignements très importants sont obtenus par l'étude algébrique directe qui consiste à établir une relation de préordre sur les états : l'état j est dit conséquent de l'état i s'il existe n > 0 tel que pnij > 0. On note i → j. Après réduction par la relation d'équivalence, on obtient une relation d'ordre sur les classes d'états (deux états de la même classe sont mutuellement conséquents l'un de l'autre).

La classe II est dite conséquente de la classe I, car tout état de II est conséquent de tout état de I. Les classes I et II sont dites classes de passage, tandis que les classes III et IV sont dites classes finales. Les états qui les composent sont dits états finals :

Le système aboutit à une classe finale de laquelle il ne sort plus. À chaque classe finale Fa est associée une valeur propre et une seule de valeur 1 ; le vecteur propre correspondant Pa a des composantes positives sur tous les états de cette classe, nulles en dehors. Si le système aboutit à la classe Fa, la loi limite des états pour n = ∞ est Pa ; cette loi limite est stable en ce sens que Pn = Pn+1 = Pa. Dans ces conditions, la loi des états à la date t est indépendante de t : on dit que le système est en régime stationnaire. Si E ne contient qu'une seule classe finale, alors P = Pa, quelle que soit la loi initiale P0 ; le système est alors dit ergodique.

Cas dénombrable (états récurrents ou non récurrents)

Soit knij la probabilité conditionnelle pour qu'on ait Et+n = Ej et Et+h ≠ Ej, avec 0 < h < n, sachant[...]

La suite de cet article est accessible aux abonnés

  • Des contenus variés, complets et fiables
  • Accessible sur tous les écrans
  • Pas de publicité

Découvrez nos offres

Déjà abonné ? Se connecter

Écrit par

Classification

Autres références

  • HASARD

    • Écrit par
    • 6 817 mots
    • 2 médias
    ...difficultés considérables que soulève l'imitation du hasard par des procédures mathématiques : si, en effet, on pouvait, par un procédé arithmétique, construire une suite de nombres aléatoires, celle-ci satisferait à un certain nombre de tests statistiques et mériterait à cet égard d'être appelée suite aléatoire...
  • HYDROLOGIE

    • Écrit par et
    • 9 853 mots
    • 13 médias
    ...des processus physiques à l'œuvre dans la production du phénomène étudié. On se contente d'établir une relation entre variables explicatives et variables expliquées. C'est, par exemple, le cas des modèles (stochastiques) autorégressifs d'ordre p, souvent utilisés pour modéliser les débits :
  • ITŌ KIYOSHI (1915-2008)

    • Écrit par
    • 793 mots

    Né à Hokusei (aujourd'hui Inabe) dans une région rurale à l'ouest de Nagoya le 7 septembre 1915, le mathématicien Itō Kiyoshi est décédé à Kyōto le 10 novembre 2008. Reconnu comme le fondateur du calcul stochastique, il a profondément renouvelé l'étude mathématique...

  • KOLMOGOROV ANDREÏ NIKOLAÏEVITCH (1903-1987)

    • Écrit par
    • 1 421 mots
    • 1 média
    ... siècle fut l'étude des processus. Les premiers résultats sont dus à Markov sous des conditions fortes d'indépendance et de stationnarité. Dans un mémoire fondamental de 1931, Kolmogorov pose les premières bases de la théorie générale des processus stochastiques (continus). Toute l'étude analytique...
  • Afficher les 10 références