Lois de Student, du khi-deux et de Fisher

Origine commune : la loi normale centrée réduite

Les lois de Student, du khi-deux et de Fisher sont des lois continues construites à partir de variables aléatoires normales indépendantes. Elles décrivent non pas directement une mesure, mais des statistiques obtenues par somme de carrés ou par rapport de quantités aléatoires.

Si $X$ suit une loi normale d'espérance $\mu$ et de variance $\sigma^2$, sa standardisation donne

$$Z=\frac{X-\mu}{\sigma}\sim\mathcal N(0,1),$$

où $\sigma$ est l'écart-type, strictement positif. Cette transformation retire l'unité et ramène toutes les lois normales à une même loi de référence.

La loi normale elle-même est étudiée dans la fiche précédente. Ici, elle sert de point de départ aux trois familles de lois.

Les degrés de liberté

Lorsqu'une statistique dépend de $\nu$ variables normales centrées réduites indépendantes sans contrainte supplémentaire, elle possède $\nu$ degrés de liberté. Si certains paramètres ont été estimés à partir des mêmes données, chaque contrainte indépendante retire généralement un degré de liberté.

Pour un échantillon de taille $n$, les écarts à la moyenne observée vérifient

$$\sum_{i=1}^{n}(X_i-\overline X)=0,$$

où $X_i$ désigne la $i$-ème observation et $\overline X$ leur moyenne. Dès que $n-1$ écarts sont connus, le dernier est imposé par cette égalité : seuls $n-1$ écarts sont libres. C'est pourquoi la variance empirique corrigée possède $n-1$ degrés de liberté.

Loi du khi-deux

Construction

Chaque carré $Z_i^2$ est positif ou nul. La variable $U$ ne peut donc prendre que des valeurs dans $[0,+\infty[$. Pour de faibles degrés de liberté, sa distribution est dissymétrique vers la droite. Lorsque $\nu$ augmente, la somme comporte davantage de contributions indépendantes : sa forme devient progressivement plus symétrique.

Son espérance et sa variance sont

$$\mathbb E(U)=\nu \qquad\text{et}\qquad \operatorname{Var}(U)=2\nu.$$

Lien avec la variance d'un échantillon normal

Soient $X_1,\ldots,X_n$ des variables indépendantes suivant la même loi normale d'espérance $\mu$ et de variance $\sigma^2$. La variance empirique corrigée est définie par

$$S^2=\frac{1}{n-1}\sum_{i=1}^{n}(X_i-\overline X)^2.$$

La statistique

$$\frac{(n-1)S^2}{\sigma^2}$$

suit exactement une loi $\chi^2_{n-1}$. La perte d'un degré de liberté provient de l'estimation de $\mu$ par $\overline X$.

Cette relation permet de construire des intervalles de confiance et des tests concernant la variance d'une population normale. La loi du khi-deux intervient aussi dans les tests portant sur des effectifs, notamment les procédures de conformité, d'indépendance et d'homogénéité ; dans ce second cadre, son emploi est généralement asymptotique et sera détaillé avec les tests d'hypothèses.

Loi de Student

Construction

Le numérateur $Z$ apporte la symétrie autour de zéro. Le dénominateur est aléatoire car il représente l'incertitude associée à l'estimation d'une variance inconnue. Cette incertitude donne à la loi de Student des queues plus épaisses que celles de la loi normale centrée réduite.

Lorsque $\nu$ augmente, l'estimation de la variance devient plus précise et $U/\nu$ se concentre autour de $1$. La loi $t_{\nu}$ se rapproche alors de $\mathcal N(0,1)$.

La loi de Student est symétrique et définie sur tout $\mathbb R$. Son espérance vaut zéro si $\nu>1$. Sa variance vaut $\nu/(\nu-2)$ si $\nu>2$ ; elle est donc supérieure à $1$ pour tout nombre fini de degrés de liberté où elle existe.