Régression simple et estimateur des MCO (L2 introduction à l'économétrie)

La régression linéaire simple estime la relation entre deux variables par la méthode des moindres carrés ordinaires (MCO). En L2 du parcours data pour économistes, dans le cours d'introduction à l'économétrie, les QCM CampusQCM en testent le principe et les formules. Le modèle est $Y_i = \beta_0 + \beta_1 X_i + \varepsilon_i$.…

La régression linéaire simple estime la relation entre deux variables par la méthode des moindres carrés ordinaires (MCO). En L2 du parcours data pour économistes, dans le cours d'introduction à l'économétrie, les QCM CampusQCM en testent le principe et les formules. Le modèle est $Y_i = \beta_0 + \beta_1 X_i + \varepsilon_i$. La méthode des MCO choisit les estimateurs $\hat{\beta}_0$ et $\hat{\beta}_1$ qui minimisent la somme des carrés des résidus $\sum_i (Y_i - \hat{Y}_i)^2$, où $\hat{Y}_i = \hat{\beta}_0 + \hat{\beta}_1 X_i$ est la valeur prédite et le résidu $e_i = Y_i - \hat{Y}_i$ l'écart au modèle. On démontre que la pente vaut $\hat{\beta}_1 = \dfrac{\text{cov}(X, Y)}{V(X)}$ et l'ordonnée à l'origine $\hat{\beta}_0 = \bar{Y} - \hat{\beta}_1 \bar{X}$. La droite de régression passe donc par le point moyen $(\bar{X}, \bar{Y})$. Le coefficient de pente $\hat{\beta}_1$ s'interprète comme la variation moyenne de $Y$ associée à une hausse d'une unité de $X$. Les MCO ont des propriétés remarquables (sans biais, de variance minimale sous certaines hypothèses) qui en font la méthode de référence. La régression simple est la brique de base de toute l'économétrie.