Démontrer la loi des grands nombres

Énoncé

Soit X une variable aléatoire d'espérance et de variance V(X), et M_n la moyenne empirique d'un échantillon de taille n. a) Démontrer l'inégalité de concentration : pour tout a > 0, [formule] b) En déduire que pour tout a > 0 fixé, _{n +} P(|M_n - | a) = 0. c) Cette limite signifie-t-elle que M_n finit par être égale à ?

Indice : Pour a), applique Bienaymé-Tchebychev à M_n et non à X. Pour b), n'oublie pas d'invoquer le théorème d'encadrement — une probabilité est positive.

Correction

1. Étape 1 : Ce qu'il faut voir. Rien de neuf n'est nécessaire : tout est déjà là. L'inégalité de concentration est Bienaymé-Tchebychev, appliquée à une autre variable. La démonstration tient en trois lignes, à condition de savoir sur quelle variable on travaille. La question c) est la plus intéressante, et la plus souvent mal traitée : elle demande de dire ce que la limite ne dit pas. Les deux ingrédients : Bienaymé-Tchebychev : P(|Y - E(Y)| a) V(Y){a^2} pour toute variable Y. Et les caractéristiques de la moyenne : E(M_n) = , V(M_n) = V(X){n}.
2. Étape 2 : a) On applique Bienaymé-Tchebychev à la variable M_n — c'est le seul geste de la démonstration. Comme E(M_n) = , l'inégalité s'écrit : P(|M_n - | a) V(M_n){a^2}.
3. Étape 3 : Il reste à remplacer V(M_n) par sa valeur : V(M_n){a^2} = V(X)/n{a^2} = V(X){n\,a^2}. D'où le résultat annoncé.

   P(|M_n - | a) V(X){n\,a^2}

4. Étape 4 : b) À a fixé, les quantités V(X) et a^2 sont des constantes. Donc : _{n +} V(X){n\,a^2} = 0, puisque n est au dénominateur. Par ailleurs, une probabilité est toujours positive ou nulle. On a donc l'encadrement, pour tout n : 0 P(|M_n - | a) V(X){n\,a^2}. Les deux membres extrêmes tendent vers 0 : par le théorème d'encadrement, la probabilité tend vers 0.

   _{n +} P(|M_n - | a) = 0

5. Étape 5 : c) Non. La limite porte sur une probabilité, pas sur la variable elle-même. Elle dit que l'évènement « M_n s'écarte de d'au moins a » devient de plus en plus improbable. Elle ne dit pas qu'il devient impossible : pour tout n, aussi grand soit-il, M_n peut encore tomber loin de — c'est simplement rare. Une image : sur 10\,000 lancers d'une pièce équilibrée, obtenir 10\,000 fois « pile » reste possible, et la moyenne vaudrait alors 1 et non 0{,}5. Sa probabilité est seulement inimaginablement petite.
6. Étape 6 : L'erreur classique : À la question b), faire tendre a vers 0 en même temps que n vers l'infini. L'énoncé dit « pour tout a > 0 fixé » : a est une constante du raisonnement. Si a variait, le quotient V(X){n\,a^2} n'aurait plus de limite évidente. Seconde erreur : oublier le théorème d'encadrement et conclure directement. La majoration seule ne suffit pas — il faut aussi la minoration par 0, qui vient de ce qu'une probabilité est positive. À retenir : Cette démonstration tombe régulièrement au bac, et elle est courte : appliquer Bienaymé-Tchebychev à M_n, remplacer V(M_n), encadrer, conclure. Sache la refaire sans la relire — c'est un des rares résultats du programme dont la preuve tient en quatre lignes.