{"id":281,"date":"2016-09-21T16:40:59","date_gmt":"2016-09-21T16:40:59","guid":{"rendered":"https:\/\/www.ephiquant.com\/?p=281"},"modified":"2016-10-02T17:46:08","modified_gmt":"2016-10-02T17:46:08","slug":"analyse-de-regression-linaire-simple-avec-matlab-implementation-du-medaf","status":"publish","type":"post","link":"https:\/\/www.ephiquant.com\/?p=281","title":{"rendered":"Analyse de R\u00e9gression Linaire Simple avec MATLAB : Impl\u00e9mentation du MEDAF"},"content":{"rendered":"

Le\u00a0mod\u00e8le de r\u00e9gression<\/strong> est\u00a0tr\u00e8s utilis\u00e9 en science sociale et subs\u00e9quemment en \u00e9conomie – finance, notamment sous sa forme lin\u00e9aire<\/strong>. Sans doute \u00e0 cause de sa simplicit\u00e9 et de l’aisance de son interpr\u00e9tation. En effet, elle permet de mettre en relation une variable dite variable d\u00e9pendante en fonction d’autres variables dites variables ind\u00e9pendantes. En l\u2019occurrence, nous allons nous int\u00e9resser au cas d’une variable ind\u00e9pendante, c’est-\u00e0-dire que, nous verrons comment expliquer une variable par une autre d’o\u00f9 le qualificatif simple.\u00a0 <\/strong><\/p>\n

C’est en vue de l’impl\u00e9mentation du Mod\u00e8le d\u2019\u00c9valuation des Actifs Financiers<\/strong> (MEDAF<\/span><\/strong>) <\/strong>avec MATLAB<\/strong><\/strong>, que nous allons notamment voir en toute rigueur comment la forme simple de la r\u00e9gression lin\u00e9aire est d\u00e9riv\u00e9, \u00a0comment ses param\u00e8tres sont estim\u00e9s et enfin comment \u00e9valuer la pertinence d’un tel model.<\/p>\n

Model de r\u00e9gression lin\u00e9aire simple<\/h3>\n

Formulation et hypoth\u00e8ses<\/h4>\n

Nous voulons donc ajuster la distribution du couple de variables \"(x,y)\" \u00e0 une fonction\u00a0sous la forme suivante\u00a0:
\n$$ \\begin{equation}y = \\alpha + \\beta x + \\epsilon \\end{equation}$$ \u00a0\" y \" : variable d\u00e9pendante,variable de r\u00e9ponse, variable expliqu\u00e9e…
\n\" x \" :\u00a0variable ind\u00e9pendante, variable de contr\u00f4le, variable explicative ..
\n\" \epsilon \" :\u00a0terme d\u2019erreur ou\u00a0perturbation
\n\" \alpha \" :\u00a0ordonn\u00e9e \u00e0 l’origine
\n\" \beta \" :\u00a0le coefficient directeur ou la pente de la droite de r\u00e9gression. En effet, quand \" x \"\u00a0augmente d’une unit\u00e9, \" y\" augmente\/diminue de \" \beta\".
\nRemarquons que \" y \" et \" x\" sont des variables al\u00e9atoires mais observables sur la base d’un \u00e9chantillon donn\u00e9, par contre \" \alpha \" et \" \beta \" sont estim\u00e9s sous certaines conditions. Il nous reste \" \epsilon \" qui est sens\u00e9 capturer la partie de \" y\" non expliqu\u00e9e par \" x\".
\nParmi les hypoth\u00e8ses sur les quelles sont bas\u00e9es ce mod\u00e8le, on note notamment que :<\/p>\n

    \n
  • –\u00a0Lin\u00e9arit\u00e9<\/em>\u00a0: ceci revient \u00e0 dire que le facteur de variation de la variable expliqu\u00e9e suite \u00e0 une variation de la variable explicative est constant peu importe le niveau d\u00e9j\u00e0 atteint par cette\u00a0derni\u00e8re. Math\u00e9matiquement parlant c’est v\u00e9rifier que la d\u00e9riv\u00e9e de \" \frac{\partial y}{\partial x} = \beta \", qui est une constante.<\/li>\n
  • –\u00a0Normalit\u00e9<\/em> : le\u00a0Terme d’erreur \" \epsilon \" suit une loi normal de moyenne nulle \" \bar{\epsilon}=0\" et de variance \" \sigma_{\epsilon}^{2}\".<\/li>\n
  • –\u00a0Homosc\u00e9dasticit\u00e9<\/em> : cette hypoth\u00e8se traduit le fait que la variance doit rester constante et que la covariance entre les termes d’erreurs cons\u00e9cutifs dans le cas de s\u00e9ries temporelles est nulle.<\/li>\n<\/ul>\n

    Estimation par\u00a0la m\u00e9thode des moindres\u00a0carr\u00e9s ordinaires<\/h4>\n

    En supposant que la relation entre \"y\" et \"x\" peut \u00eatre d\u00e9crite par un mod\u00e8le lin\u00e9aire simple, nous allons utiliser la m\u00e9thode des moindres carr\u00e9s ordinaires(MCO<\/strong>) pour d\u00e9terminer les estimateurs des coefficients \" \alpha \" et \" \beta \". Sans trop tarder\u00a0sur\u00a0les d\u00e9tails statistiques relatifs aux estimateurs, la MCO<\/strong>, nous apprend que les estimateurs \" \hat{\alpha} \" et \" \hat{\beta} \" des coefficients sont ceux\u00a0qui minimisent la somme des carr\u00e9s des r\u00e9sidus ou \u00e9carts ou sum of square error<\/strong> en anglais(SSE<\/strong>) soit :
    \n$$\\begin{equation}SSE(\\alpha,\\beta) =\\sum_{i = 1}^{n}\\epsilon_{i}^2 =\\sum_{i = 1}^{n}(y_{i} -\\hat{\\alpha}-\\hat{\\beta}x_{i})^{2}\\end{equation}$$\u00a0Typiquement pour une\u00a0fonction \u00e0 double variable (\\(\\hat{\\beta} \\) et \\(\\hat{\\alpha}\\)), il faudrait qu’au minimum de la fonction\u00a0SSE<\/strong>, les d\u00e9riv\u00e9es partielles soient nulles\u00a0\u00a0<\/strong>$$\\begin{cases}\\frac{\\partial SSE}{\\partial \\hat{\\alpha}}=\\displaystyle\\sum_{i = 1}^{n}2[y_{i} -(\\hat{\\alpha}+\\hat{\\beta})](-1)= -2\\displaystyle\\sum y_{i} + 2\\displaystyle\\sum\u00a0\\hat{\\alpha} + 2\\displaystyle\\sum\\hat{\\beta}x_{i} =0 \\\\\u00a0\\frac{\\partial SSE}{\\partial \\hat{\\beta}}=\\displaystyle\\sum_{i = 1}^{n}2[y_{i} -(\\hat{\\alpha}+\u00a0\\hat{\\beta})](-x_{i}) = -2\\displaystyle\\sum x_{i} y_{i} + 2\\displaystyle\\sum\\hat{\\alpha}x_{i} + 2\\displaystyle\\sum\\hat{\\beta}x_{i}^{2}=0\\end{cases}$$ et apr\u00e8s une simplification par \\(-2\\) nous obtenons : $$\\begin{cases}\\displaystyle\\sum_{i = 1}^{n}y_{i}-\\displaystyle\\sum_{i = 1}^{n}\\hat{\\alpha}-\\hat{\\beta}\\displaystyle\\sum_{i = 1}^{n}x_{i}=\\displaystyle\\sum_{i = 1}^{n}y_{i}-n\\hat{\\alpha}-\\hat{\\beta}\\displaystyle\\sum_{i = 1}^{n}x_{i}=0 \\\\ \\displaystyle\\sum_{i = 1}^{n}x_{i}y_{i}-\\hat{\\alpha}\\displaystyle\\sum_{i = 1}^{n}x_{i}-\\hat{\\beta}\\displaystyle\\sum_{i = 1}^{n}x_{i}^{2}=0 \\end{cases}$$ ou $$\\begin{cases} n\\hat{\\alpha}+\\hat{\\beta}\\displaystyle\\sum_{i = 1}^{n}x_{i} =\\displaystyle\\sum_{i = 1}^{n} y_{i} \u00a0 \\\\ \u00a0 \\hat{\\alpha}\\displaystyle\\sum_{i = 1}^{n} x_{i}+\\hat{\\beta}\\displaystyle\\sum_{i = 1}^{n}x_{i}^{2} =\\displaystyle\\sum_{i = 1}^{n}x_{i} y_{i}\\end{cases}$$\u00a0La solution pour ces deux \u00e9quations simultan\u00e9es est :\u00a0$$\\begin{equation}\\begin{split} n\\hat{\\alpha}=\\sum y_{i}- \\hat{\\beta}\\sum x_{i} & \\Longrightarrow \\hat{\\alpha}=\\frac{\\sum y_{i} }{n} – \\hat{\\beta}\\frac{\\sum x_{i}}{n} \u00a0\\\\ \u00a0& \\Longrightarrow \\hat{\\alpha}=\\bar{y}-\\hat{\\beta}\\bar{x}\\end{split}\\end{equation}$$ Une fois que nous avons d\u00e9termin\u00e9 \\(\\hat{\\alpha}\\), nous pouvons le remplacer par son expression dans la deuxi\u00e8me \u00e9quation : $$\u00a0\\begin{equation}\\begin{split}\\hat{\\beta}\\displaystyle\\sum x_{i}^{2} &= \\displaystyle\\sum x_{i} y_{i} -\\hat{\\alpha}\\displaystyle\\sum x_{i}=\\displaystyle\\sum x_{i} y_{i} -(\\bar{y}- \\hat{\\beta}\\bar{x})\\displaystyle\\sum x_{i} \\\\ &=\\displaystyle\\sum x_{i} y_{i}-\\bar{y}\\displaystyle\\sum x_{i} +\\hat{\\beta}\\hat{x}\\displaystyle\\sum x_{i} \\\\ &=\\displaystyle\\sum x_{i} y_{i}-\\frac{(\\sum x_{i})(\\sum y_{i})}{n}+\\hat{\\beta}\\frac{(\\sum x_{i})^2}{n}\u00a0\\\\\u00a0\u00a0\\hat{\\beta}\\Biggl[\\displaystyle\\sum x_{i}^{2}-\\frac{(\\sum x_{i})^2}{n}\\Biggr]\u00a0&=\\displaystyle\\sum x_{i} y_{i} -\\frac{(\\sum x_{i})(\\sum y_{i})}{n}\u00a0\\end{split}\\end{equation}$$\u00a0et comme\u00a0nous savons que la moyenne des produits de \\(x\\) par \\(y\\), \\(\\overline{xy}=\\frac{\\sum x_i y_i}{n}\\), le produit des moyennes \\(\\bar{x}\\bar{y} = \\frac{(\\sum x_{i})(\\sum y_{i})}{n^{2}} \\) \u00a0et que la moyenne des carr\u00e9s de \\(x\\), \\(\\overline{x^2}=\\frac{\\sum x_{i}^{2}}{n}\\), nous pouvons r\u00e9\u00e9crire l’\u00e9quation \\((4)\\) comme ce-ci : $$\\begin{equation*} \\hat{\\beta}\\Biggl[n(\\overline{x^2})-n(\\bar{x}^2)\\Biggr] =n(\\overline{xy})-n(\\bar{x}\\bar{y})\\end{equation*}$$ En simplifiant par \\(n \\) et en notant\u00a0que \\(\\overline{xy}-\\bar{x}\\bar{y}\\) et \\(\\overline{x^2}-\\bar{x}^2\\), sont respectivement la covariance de \\(x \\) et \\(y\\), not\u00e9e \\(\\sigma_{xy}\\) et la variance de \\(x\\), not\u00e9e \\(\\sigma^{2}_{x}\\), on obtiendra donc :\u00a0$$ \\begin{equation}\\hat{\\beta}= \\frac{\\sigma_{xy}}{\\sigma_{x}^2} \\end{equation}$$<\/span>