Université Pierre-et-Marie-Curie (Paris VI)
Licence de Mathématiques - 3ème année
LM 346



Processus et Simulations




Quelques liens :



Exercices de programmation en Scilab

Chaînes de Markov


On rappelle qu'une chaîne de Markov d'espace d'états E et de matrice de transition Q est une suite X_n de v.a. à valeurs dans E telles que pour tous x_0,x_1,...,x_n,y dans E, pour tout n,

P( X_{n+1}=y | X_0=x_0,...,X_n=x_n ) = P( X_{n+1}=y | X_n=x_n ) = Q(x_n,y).

La loi de la chaine est alors entièrement déterminée par celle de X_0 et par la matrice Q. La chaine est dite irreductible si, pour tous x,y dans E, pour X_0=x, on a une probabilité non nulle qu'il existe n tel que X_n=y.

I - Points récurrents et transitoires

On rappelle qu'on point x de E est dit récurrent si pour X_0=x, la probabilité qu'il existe n strictement positif tel que X_n=x vaut 1. Dans ce cas, la chaîne passe presque sûrement par x une infinité de fois. Dans le cas contraire, x est dit transitoire (on dit parfois transient) et la loi du temps passé par la chaine en x est la loi géométrique de paramètre g, où g est la probabilité, pour X_0=x, qu'il n'existe aucun entier n strictement positif tel que X_n=x. Lorsque la chaîne est irréductible, les points sont soit tous récurrents, soit tous transitoires.

On fixe 0 < p < 1 et pose q=1-p. On condière une chaine de Markov S_n d'espace d'états l'ensemble des entiers relatifs Z, de valeur initiale S_0=0 et de matrice de transition donnée par Q(x,y)=p si y=x+1, q si y=x-1, et 0 sinon. On remarque que cette chaîne est irréductible.

1. Tracer sur un même graphe un nombre N de trajectoires de S_n pour n variant de 0 à n_0, d'abord dans le cas où p ne vaut pas 1/2, puis pour p=1/2. Dans quel cas la chaîne vous semble-t-elle récurrente ? Corrigé.

2. A l'aide de N simulations de la chaine pour n variant de 0 à n_0, tracer l'histogramme de la loi du temps passé en 0. Corrigé.

II - Mesures invariantes

On rappelle qu'une mesure m sur E est dite invariante si mQ=m. Si la chaîne est irréductible et récurrente, il en existe une, unique à un facteur près. Si cette mesure est finie, la chaîne est dite irréductible récurrente positive (c'est toujours le cas lorsque la chaine est irréductible récurrente et finie). En notant m la seule loi invariante (i.e. la mesure invariante de masse totale égale à 1), on sait que si X_0 a pour loi m, alors il en va de même pour tous les X_n. De plus, m se retrouve grace au théorème ergodique: pour tout x dans E, m(x) est la limite, lorsque n tend vers l'infini, du nombre de i dans [0,n] tels que X_i=x, divisé par n.

On fixe 0 < p < 1 et pose q=1-p. On considère la chaîne X_n d'espace d'états {0,1,...,c} (c étant un entier positif fixé), de valeur initiale X_0=0 et de matrice de transition Q(x,y) donnée, pour 0 < x < c, par Q(x,y)=p si y=x+1, q si y=x-1, et 0 sinon et par Q(0,1)=1=Q(c,c-1) (il s'agit d'une marche aléatoire bloquée avec rebond). On remarque que cette chaîne est irréductible récurrente positive.

1. Tracer sur un même graphe un nombre N de trajectoires de X_n pour n variant de 0 à n_0, d'abord dans le cas où p ne vaut pas 1/2, puis pour p=1/2. Dans quel cas la chaîne vous semble-t-elle récurrente ? Corrigé.

2. A l'aide d'une seule simulation de la chaine pour n variant de 0 à n_0, tracer l'histogramme de la loi invariante. Corrigé.

III - Périodicité

Considérons une chaîne X_n irréductible récurrente. Sa période est définie comme étant le PGCD, indépendant de x dans E, de l'ensemble des n tels que, pour X_0=x, X_n a une probabilité non nulle d'être en x. Si la période d'une chaine irréductible récurrente positive vaut 1, la chaîne est dite apériode, et le théorème de convergence en loi des chaînes apériodiques nous dit alors que quelle que soit la loi de X_0, lorsque n tend vers l'infini, la loi de X_n tend vers la loi vers l'unique loi invariante.

On fixe p,q,r>0 tels que p+q+r=1. On considère la chaîne X_n d'espace d'états {0,1,...,c} (c étant un entier positif fixé), de valeur initiale X_0=0 et de matrice de transition Q(x,y) donnée, pour 0 < x < c, par Q(x,y)=p si y=x+1, q si y=x et r si y=x-1, et 0 sinon et par Q(0,0)=q=Q(c,c) et Q(0,1)=1-r=Q(c,c-1) (il s'agit encore d'une marche aléatoire bloquée avec rebond). On remarque que cette chaîne est apériodique.

Tracer l'histogramme de la loi invariante. Corrigé. En quoi la méthode peut-elle être choisie différente de celle de la question II.2 ?