REGRESIÓN LINEAL SIMPLE

Una de las aplicaciones más importantes de la estadística implica la estimación del valor medio de una variable de respuesta y o la predicción de algún valor futuro de y con base en el conocimiento de un conjunto de variables independientes relacionadas, x1,x2,...,xk.

Los modelos que se emplean para relacionar una variable dependiente y con las variables independientes x1,x2,...,xk se denominan modelos de regresión o modelos estadísticos lineales porque expresan el valor medio de y para valores dados de x1,x2,...,xk como una función lineal de un conjunto de parámetros desconocidos.

Los conceptos de análisis de regresión se presentan empleando un modelo de regresión muy sencillo, uno que relaciona y con una sola variable x. Aprenderemos a ajustar este modelo a un conjunto de datos mediante el método de los mínimos cuadrados.

Modelo de regresión simple: supuestos Supongamos que se quiere determinar la magnitud de la compresión que se producirá en un tipo de material de 2 pulgadas de espesor cuando se someta a diferentes cantidades de presión.

Modelo de regresión simple: supuestos Se prueban cinco trozos experimentales del material bajo diferentes presiones. Los valores de x (en unidades de 10 libras por pulgada cuadrada) y las magnitudes de compresión y resultantes (en unidades de 0,1 de pulgada) se presentan en la tabla 1.

ESPÉCIMEN PRESIÓN COMPRESIÓN   X Y 1 2 3 4 5 TABLA 1

En la figura 1 se muestra una gráfica de los datos, llamada diagrama de dispersión. X y 1 2 3 4 Figura 1

X y 1 2 3 4 Supongamos que creemos que el valor de y tiende a aumentar de forma lineal conforme x aumenta 5 Entonces, podríamos escoger un modelo que relacione a y con x trazando una línea recta a través de los puntos de la figura 1.

X y 1 2 3 4 5 Semejante modelo determinístico (uno que no contempla errores de predicción) podría ser adecuado si todos los puntos de la figura quedaran sobre la línea ajustada.

La solución es construir un modelo probabilístico que relacione y con x; uno que contemple la variación aleatoria de los puntos de datos a los lados de una línea recta.

Un tipo de modelo probabilístico, el modelo de regresión lineal simple, supone que el valor medio de y para un valor dado de x se grafica como una línea recta y que los puntos se desvían de esta línea de medias en una cantidad aleatoria (positiva o negativa) igual a e, es decir:

Valor medio de y para una x dada Error aleatorio Donde a y b son parámetros desconocidos de la porción determinística del modelo.

Valor medio de y para una x dada Error aleatorio Si suponemos que los puntos se desvían por encima y por debajo de la líneas de medias, siendo algunas desviaciones positivas, otras negativas, y con E(e) = 0, entonces el valor medio de y es:

Por lo tanto, el valor medio de y para un valor dado de x, representado por el símbolo , se grafica como una línea recta con ordenada al origen igual a a y pendiente igual a b.

X y 1 2 3 4

Modelo de regresión lineal simple (probabilístico) Donde: y = variable dependiente x = variable independiente es el componente determinístico (la ecuación de una línea recta) e = componente de error aleatorio = punto en que la línea corta el eje y b : pendiente de la línea

Si queremos ajustar un modelo de regresión lineal simple a un conjunto de datos, debemos encontrar estimadores para los parámetros desconocidos, a. y

Los supuestos, que se resumirán a continuación, son básicos para todo análisis de regresión estadístico.

SUPUESTO 1: La media de la distribución de probabilidad de e es cero. Es decir, la media de los errores a lo largo de una serie infinitamente larga de experimentos es cero para cada valor de la variable independiente x. Este supuesto implica que el valor medio de y, , para un valor dado de x es:

SUPUESTO 2: La varianza de la distribución de probabilidad de e es constante para todos los valores de la variable independiente x SUPUESTO 3: La distribución de probabilidad de e es normal

SUPUESTO 4: Los errores asociados a cualquier dos observaciones distintas son independientes. Es decir, el error asociado a un valor de y en particular no tiene efecto alguno sobre los errores asociados a otros valores de y

EL MÉTODO DE LOS MÍNIMOS CUADRADOS ESTIMACIÓN DE y y : EL MÉTODO DE LOS MÍNIMOS CUADRADOS La suma de los cuadrados de las desviaciones se denomina suma de los cuadrados del error y se denota con el símbolo SCE. La línea recibe el nombre de línea de mínimos cuadrados, línea de regresión o ecuación de mínimos cuadrados.

y 1 2 3 4 X 1 2 3 4

y la línea ajustada, que esperamos encontrar, se representa como: X y 1 2 3 4 El modelo de línea recta para la respuesta y en términos de x es: y= a+bx + e La línea de medias es: y la línea ajustada, que esperamos encontrar, se representa como:

Fórmulas para las estimaciones de mínimos cuadrados Pendiente: Ordenada en el origen:

Ejercicio: A continuación tenemos las estaturas en centímetros (x) y la masa corporal en kilogramos (y) para niños de 6 años. Niño 1 2 3 4 5 6 7 8 9 10 Estatura (cm) x 121 123 108 118 111 109 114 103 110 115 Masa (kg) y 25 22 19 24 18 20 15 21

Ejercicio: Determinar las medidas centrales, el diagrama de dispersión y el ajuste por mínimos cuadrados de la recta de regresión .