REGRESION LINEAL SIMPLE

Presentación del tema: "REGRESION LINEAL SIMPLE"— Transcripción de la presentación:

1 REGRESION LINEAL SIMPLE
Mat. Jessica Jacqueline Machuca Vergara

2 Regresión Lineal En la búsqueda de mejoras o en la solución de problemas es necesario, frecuentemente, investigar la relación entre factores (o variables). Para lo cual existen varias herramientas estadísticas, entre las que se encuentran el diagrama de dispersión, el análisis de correlación y el análisis de regresión. El análisis de regresión puede usarse para explicar la relación de un factor con otro(s). Para ello, son necesarios los datos, y estos pueden obtenerse de experimentos planeados, de observaciones de fenómenos no controlados o de registros históricos.

3 Regresión lineal simple
Sean dos variables X y Y. Supongamos que se quiere explicar el comportamiento de Y con el de X. Para esto, se mide el valor de Y sobre un conjunto de n valores de X, con lo que se obtienen n parejas de puntos (X1 ,Y1 ), (X2 ,Y2 ),...,(Xn ,Yn ). A Y se le llama la variable dependiente o la variable de respuesta y a X se le conoce como variable independiente o variable regresora.

4

5 Patrones de diagramas de dispersión
Existe una tendencia fuertemente positiva ya que los puntos dibujados forman una línea casi recta, por lo cual se argumenta en este caso que las dos variables están positiva y fuertemente relacionadas. Existe una tendencia negativa ya que los puntos dibujados se encuentran en sentido opuesto, por lo cual se argumenta en este caso que las dos variables están negativamente relacionadas.

6 Patrones de diagramas de dispersión
No existe tendencia hacia arriba ni hacia abajo. Las dos variables no se encuentran relacionadas. Existe tendencia lineal de las variables. Las dos variables se encuentran relacionadas de manera positiva.

7 Regresión lineal simple
Supongamos que las variables X y Y están relacionadas linealmente y que para cada valor de X, Y es una variable aleatoria. Es decir, supongamos que cada observación de Y puede ser descrita por el modelo general: Y=ß0 +ß1X+e donde e es un error aleatorio con media cero y varianza 2 y es de suponerse que los errores no están correlacionados, lo que significa que el valor de un error no depende del valor de cualquier otro error.

8 METODO DE MINIMOS CUADRADOS
Estimación de los parámetros ß0 y ß1 METODO DE MINIMOS CUADRADOS Los parámetros ß0 y ß1 son desconocidos y se deben de estimar con los datos de la muestra. Para estimar ß0 y ß1 se usa el método de mínimos cuadrados 𝒚 𝒊 = 𝜷 𝟎 + 𝜷 𝟏 𝒙 𝒊 + 𝜺 𝒊 , i=1,2….n Se puede considerar que la ecuación anterior es un modelo muestral de regresión, escritos en términos de los n pares de datos 𝒙 𝒊 𝒚 𝒊 , (𝒊=𝟏,𝟐,⋯,𝒏). Así el criterio de mínimos cuadrados es

9 RECTA ESTIMADA 𝑦 𝑖 𝑦 𝑖 = 𝛽 0 + 𝛽 1 𝑥 1 + 𝜀 𝑖 𝜀 𝑖 = 𝑦 𝑖 − 𝑦 𝑖 𝛽 0 ?
𝑦 𝑖 Y 𝑦 𝑖 = 𝛽 0 + 𝛽 1 𝑥 1 + 𝜀 𝑖 𝑦 𝑖 𝜀 𝑖 = 𝑦 𝑖 − 𝑦 𝑖 X Como logro obtener la recta estimada? RECTA ESTIMADA 𝛽 0 ? 𝛽 1 ?

10 S 𝛽 0 , 𝛽 1 = 𝐼=1 𝑁 𝑦 𝑖 − 𝛽 0 − 𝛽 1 𝑥 𝑖 2 Los estimadores, por mínimos cuadrados, de 𝛽 0 y 𝛽 1 , que se designaran por 𝛽 0 y 𝛽 1 , deben satisfacer 𝜕𝑆 𝜕 𝛽 𝛽 0 , 𝛽 1 =−2 𝑖=1 𝑛 𝑦 𝑖 − 𝛽 0 − 𝛽 1 𝑥 1 )=0 𝜕𝑆 𝜕 𝛽 𝛽 0 , 𝛽 1 =−2 𝑖=1 𝑛 𝑦 𝑖 − 𝛽 0 − 𝛽 1 𝑥 1 ) 𝑥 1 =0

11 Se simplifican estas dos ecuaciones y se obtiene
𝑛 𝛽 𝛽 1 𝑖=1 𝑛 𝑥 𝑖 = 𝑖=1 𝑛 𝑦 𝑖 𝛽 0 𝑖=1 𝑛 𝑥 𝑖 + 𝛽 1 𝑖=1 𝑛 𝑥 𝑖 2 = 𝑖=1 𝑛 𝑥 𝑖 𝑦 𝑖 Estas ecuaciones son llamadas ecuaciones normales de mínimos cuadrados. Su solución es la siguiente:

12 𝛽 1 = 𝑖=1 𝑛 𝑥 𝑖 𝑦 𝑖 − 𝑖=1 𝑛 𝑦 𝑖 𝑖=1 𝑛 𝑥 𝑖 𝑛 𝑖=1 𝑛 𝑥 𝑖 2 − 𝑖=1 𝑛 𝑥 𝑖 2 𝑛 = 𝑺 𝒙𝒚 𝑺 𝒙𝒙
𝛽 0 = 𝑦 − 𝛽 1 𝑥 En donde 𝑦 = 1 𝑛 𝑖=1 𝑛 𝑦 𝑖 y 𝑥 = 1 𝑛 𝑖=1 𝑛 𝑥 𝑖

13 Además 𝑆 𝑥𝑥 = 𝑖=1 𝑛 𝑥 𝑖 2 − 𝑖=1 𝑛 𝑥 𝑖 𝑛 = 𝒊=𝟏 𝒏 𝒙 𝒊 − 𝒙 𝟐 𝑆 𝑥𝑦 = 𝑖=1 𝑛 𝑦 𝑖 𝑥 𝑖 − 𝑖=1 𝑛 𝑦 𝑖 𝑖=1 𝑛 𝑥 𝑖 𝑛 = 𝒊=𝟏 𝒏 𝒚 𝒊 𝒙 𝒊 − 𝒙 De esta forma 𝜷 𝟏 = 𝑺 𝒙𝒚 𝑺 𝒙𝒙

14 La diferencia entre el valor observado 𝑦 𝑖 y el valor ajustado correspondiente 𝑦 𝑖 se llama residual. Matemáticamente, el i- ésimo residual es 𝜀 𝑖 = 𝑦 𝑖 − 𝑦 𝑖 = 𝑦 𝑖 − 𝛽 𝛽 1 𝑥 i , Los residuales tienen un papel importante para investigar la adecuación del modelo de regresión ajustado, y para detectar diferencias respecto a las hipótesis básicas.

15 Ejemplo: Relación de estatura y peso de los estudiantes.
Con el interés de encontrar una relación de la estatura y peso de los estudiantes, para ello se midieron a 12 estudiantes y sus correspondientes estaturas y pesos se muestran a continuación. ALUMNO Y=Peso X=Estatura 1 83.4 1.75 2 58.9 1.69 3 79.7 1.74 4 64.1 1.83 5 61.7 1.68 6 81.3 7 71.7 1.67 8 68.8 9 67.7 1.79 10 66.5 11 73.6 1.72 12 53.7

16 𝑆 𝑥𝑥 = 𝑖=1 𝑛 𝑥 𝑖 2 − 𝑖=1 𝑛 𝑥 𝑖 𝑛 = − = 𝑆 𝑥𝑦 = 𝑖=1 𝑛 𝑦 𝑖 𝑥 𝑖 − 𝑖=1 𝑛 𝑦 𝑖 𝑖=1 𝑛 𝑥 𝑖 𝑛 = − = 𝜷 𝟏 = 𝑺 𝒙𝒚 𝑺 𝒙𝒙 = = 𝜷 𝟎 = 𝒚 − 𝜷 𝟏 𝒙 = − ( )= 𝒚 = − 𝒙

17 𝒚 = − 𝒙