Démontrer la loi des grands nombres
Énoncé
Soit X une variable aléatoire d'espérance μ et de variance V(X), et Mₙ la moyenne empirique d'un échantillon de taille n.
a) Démontrer l'inégalité de concentration : pour tout a > 0,
P(|Mₙ - μ| ≥ a) ≤ (V(X))/(n a²)
b) En déduire que pour tout a > 0 fixé, lim(n → +∞) P(|Mₙ - μ| ≥ a) = 0.
c) Cette limite signifie-t-elle que Mₙ finit par être égale à μ ?
Indice : Pour a), applique Bienaymé-Tchebychev à Mₙ et non à X. Pour b), n'oublie pas d'invoquer le théorème d'encadrement — une probabilité est positive.
Correction
- Étape 1 : Ce qu'il faut voir. Rien de neuf n'est nécessaire : tout est déjà là. L'inégalité de concentration est Bienaymé-Tchebychev, appliquée à une autre variable. La démonstration tient en trois lignes, à condition de savoir sur quelle variable on travaille.
La question c) est la plus intéressante, et la plus souvent mal traitée : elle demande de dire ce que la limite ne dit pas.
Les deux ingrédients :
Bienaymé-Tchebychev : P(|Y - E(Y)| ≥ a) ≤ (V(Y))/(a²) pour toute variable Y.
Et les caractéristiques de la moyenne : E(Mₙ) = μ, V(Mₙ) = (V(X))/n.
- Étape 2 : a) On applique Bienaymé-Tchebychev à la variable Mₙ — c'est le seul geste de la démonstration.
Comme E(Mₙ) = μ, l'inégalité s'écrit :
P(|Mₙ - μ| ≥ a) ≤ (V(Mₙ))/(a²).
- Étape 3 : Il reste à remplacer V(Mₙ) par sa valeur :
(V(Mₙ))/(a²) = (V(X)/n)/(a²) = (V(X))/(n a²).
D'où le résultat annoncé.
P(|Mₙ - μ| ≥ a) ≤ (V(X))/(n a²)
- Étape 4 : b) À a fixé, les quantités V(X) et a² sont des constantes. Donc :
lim(n → +∞) (V(X))/(n a²) = 0, puisque n est au dénominateur.
Par ailleurs, une probabilité est toujours positive ou nulle. On a donc l'encadrement, pour tout n :
0 ≤ P(|Mₙ - μ| ≥ a) ≤ (V(X))/(n a²).
Les deux membres extrêmes tendent vers 0 : par le théorème d'encadrement, la probabilité tend vers 0.
lim(n → +∞) P(|Mₙ - μ| ≥ a) = 0
- Étape 5 : c) Non. La limite porte sur une probabilité, pas sur la variable elle-même.
Elle dit que l'évènement « Mₙ s'écarte de μ d'au moins a » devient de plus en plus improbable. Elle ne dit pas qu'il devient impossible : pour tout n, aussi grand soit-il, Mₙ peut encore tomber loin de μ — c'est simplement rare.
Une image : sur 10 000 lancers d'une pièce équilibrée, obtenir 10 000 fois « pile » reste possible, et la moyenne vaudrait alors 1 et non 0,5. Sa probabilité est seulement inimaginablement petite.
- Étape 6 : L'erreur classique :
À la question b), faire tendre a vers 0 en même temps que n vers l'infini. L'énoncé dit « pour tout a > 0 fixé » : a est une constante du raisonnement. Si a variait, le quotient (V(X))/(n a²) n'aurait plus de limite évidente.
Seconde erreur : oublier le théorème d'encadrement et conclure directement. La majoration seule ne suffit pas — il faut aussi la minoration par 0, qui vient de ce qu'une probabilité est positive.
À retenir :
Cette démonstration tombe régulièrement au bac, et elle est courte : appliquer Bienaymé-Tchebychev à Mₙ, remplacer V(Mₙ), encadrer, conclure. Sache la refaire sans la relire — c'est un des rares résultats du programme dont la preuve tient en quatre lignes.