Elementos Básicos de Probabilidad y Estadística Javier Aparicio División de Estudios Políticos, CIDE Julio 2009

Presentación del tema: "Elementos Básicos de Probabilidad y Estadística Javier Aparicio División de Estudios Políticos, CIDE Julio 2009"— Transcripción de la presentación:

1 Elementos Básicos de Probabilidad y Estadística Javier Aparicio División de Estudios Políticos, CIDE javier.aparicio@cide.edu Julio 2009 http://publiceconomics.wordpress.com/verano2009

2 2 Contenido Variables aleatorias (VA): X Distribución de probabilidad Valor esperado de una VA: E(X) Varianza de una VA: VA discretas y continuas Covarianza y correlación Muestreo y estimadores Sesgo y eficiencia de los estimadores Propiedades de los estimadores muestrales Teorema del Límite Central

3 3 rojo123456 verde 1234567 2345678 3456789 45678910 567891011 6789101112 Xfp 211/36 322/36 433/36 544/36 655/36 766/36 855/36 944/36 1033/36 1122/36 1211/36 Una variable aleatoria X se puede definir como la suma de los números cuando se tiran dos dados. Se define f como las frecuencias asociadas asociadas a los posibles valores de X. Finalmente se define p, como la probabilidad de ocurrencia de cada resultado, la cual es 1/36. Un ejemplo de distribución de probabilidad: X es la suma de dos dados

4 4 Esta es la distribución vista gráficamente. En este ejemplo es simétrica: más alta para X igual a 7, y decreciente en ambos lados. 6 __ 36 5 __ 36 4 __ 36 3 __ 36 2 __ 36 2 __ 36 3 __ 36 5 __ 36 4 __ 36 probabilidad 23 456789101112X Un ejemplo de distribución de probabilidad: X es la suma de dos dados 1 36 1 36

5 5 Definición de E(X), el valor esperado de X: Notación alternativa de E(X): E(X) = μx Valor esperado de una variable aleatoria El valor esperado de una variable aleatoria, también conocida como la media poblacional, es el promedio ponderado de sus valores posibles.

6 6 Del ejemplo anterior, el valor esperado es 7, lo cual es obvio porque, como vimos en la gráfica anterior, la distribución es simétrica en torno a 7. Valor esperado de una variable aleatoria x i p i x i p i x 1 p 1 x 1 p 1 21/362/36 x 2 p 2 x 2 p 2 32/366/36 x 3 p 3 x 3 p 3 43/3612/36 x 4 p 4 x 4 p 4 54/3620/36 x 5 p 5 x 5 p 5 65/3630/36 x 6 p 6 x 6 p 6 76/3642/36 x 7 p 7 x 7 p 7 85/3640/36 x 8 p 8 x 8 p 8 94/3636/36 x 9 p 9 x 9 p 9 103/3630/36 x 10 p 10 x 10 p 10 112/3622/36 x 11 p 11 x 11 p 11 121/3612/36  x i p i = E(X) 252/36 = 7

7 7 Definición de E[g(X)], el valor esperado de una función de X: Para encontrar el valor esperado de una función de una variable aleatoria, se calculan todos los posibles valores de la función, ponderándolos por las probabilidades correspondientes, y sumando el resultado. Valor esperado de una función de una variable aleatoria Ejemplo:

8 8 x i p i g(x i ) g(x i ) p i x i p i x i 2 x i 2 p i x 1 p 1 g(x 1 )g(x 1 ) p 1 21/3640.11 x 2 p 2 g(x 2 ) g(x 2 ) p 2 32/3690.50 x 3 p 3 g(x 3 ) g(x 3 ) p 3 43/36161.33 ………...……... 54/36252.78 ………...……... 65/36365.00 ………...……... 76/36498.17 ………...……... 85/36648.89 ………...……... 94/36819.00 ………...……... 103/361008.83 ………...……... 112/361216.72 x n p n g(x n ) g(x n ) p n 121/361444.00   g(x i ) p i 54.83 El valor esperado de X 2 es la suma de sus valores ponderados en la columna final. Es el valor promedio de de los valores en la columna previa, tomando las distintas probabilidades en cuenta. Valor esperado de una función de una variable aleatoria

9 9 Varianza poblacional de X El valor esperado de la desviación es conocida como la varianza poblacional de X. Es una medida de dispersión de la distribución de X alrededor de su media poblacional. La desviación estándar de X es la raíz cuadrada de su varianza poblacional. Varianza poblacional de una variable aleatoria discreta Desviación estándar de X

10 10 x i p i x i –  (x i –  ) 2 (x i –  ) 2 p i 21/36–5250.69 32/36–4160.89 43/36–390.75 54/36–240.44 65/36–110.14 76/36000.00 85/36110.14 94/36240.44 103/36390.75 112/364160.89 121/365250.69 5.83 Para obtener la varianza, primero es necesario sustraer la media a cada valor de x. Segundo, este resultado se eleva al cuadrado y finalmente se multiplica por la probabilidad de ocurrencia de cada x. Varianza poblacional de una variable aleatoria discreta

11 11 Dos variables aleatorias X y Y son independientes si y sólo si: E[f(X)g(Y)] = E[f(X)] E[g(Y)] para cualquier función de f(X) y g(Y). Caso especial: si X y Y son independentes, E(XY) = E(X) E(Y) Independencia de dos variables aleatorias Dos variables X y Y son independientes si y sólo si, dada cualquier función de f(X) y g(Y), el valor esperado del producto de f(X)g(Y) es igual al valor esperado de f(X) multiplicado por el valor esperado de g(Y). Caso especial, el valor esperado de XY es igual al valor esperado de X multiplicado por el valor esperado de Y, si y sólo si X y Y son independientes.

12 12 X Variables aleatorias continuas altura 5560707565 Las variables aleatorias continuas pueden tomar cualquier valor infinitesimal en un rango. Un ejemplo es la temperatura de una habitación. Se asume que ésta puede situarse entre cualquier valor entre 55 y 75 grados Fahrenheit con la misma probabilidad en todo el rango. En el caso de variables aleatorias continuas, la probabilidad de ser igual a un valor en el rango siempre es infinitesimal. Por esta razón, sólo se puede hablar de la probabilidad de una variable aleatoria continua se encuentre dentro de un rango de valores dados.

13 13 55607075 X 65 0.05 Variables continuas aleatorias Densidad de probabilidad f(X)f(X) f(X) = 0.05 para 55 X 75 f(X) = 0 para X 75 Soponga que se requiere calcular la probabilidad de la temperatura entre 65 y 70 grados. Para obtenerla, se debe calcular el área debajo de la función de densidad entre 65 y 70. La altura del rectángulo es 0.05 y su ancho es 5, por lo tanto su área es 0.25. 0.25

14 14 Covarianza y correlación Si dos variables son independientes, su covarianza es cero. Para demostrarlo se reescribe la covarianza como el producto de de los valores esperados de sus factores. Esto se puede hacer porque X y Y son independientes. El valor esperado de ambos factores es cero porque E(X) =  X y E(Y) =  Y. E(  X ) =  X y E(  Y ) =  Y porque  X y  Y son constantes. Por lo tanto la covarianza es cero. Covarianza

15 15 Covarianza y correlación Cov(X, Y) es una medida de asociación insatisfactoria entre X y Y porque depende de las unidades de medida (o escala) de X y Y. Una mejor medida es el coeficiente de correlación porque no es dimensional: El numerador posee las unidades de medida de X y Y, mientras que la varianza de X y Y en el denominador posee las unidades de medida al cuadrado de estas varibles. Si X y Y son independientes,  XY será igual a cero porque  XY será igual a cero. Si hay una asociación positiva entgre ellos,  XY, y por tanto  XY, será positiva. Si hay una exacta relación lineal positiva,  XY tomará su valor máximo de 1. Similarmente,si hay una relación negativa,  XY será negativa con un valor mínimo de –1. Correlación

16 16 Suponga que tenemos una variable aleatoria X, y deseamos estimar su (desconocida) media poblacional  X … Un primer paso es obtener una muestra de n observaciones: {X 1, …, X n }. Aún antes de conseguir la muestra, Xi contiene valores aleatorios, los cuales provendrán de la distribución de X, pero no sabemos qué valores tomarán. De modo que podemos pensar en variables aleatorias en DOS niveles: 1.La variable aleatoria X por si misma 2.El componente aleatorio de la muestra {X1, …, Xn}: error muestral. Muestreo y estimadores

17 17 Muestreo y estimadores Una vez que tenemos una muestra de n observaciones {X 1, …, X n }, podemos usar fórmulas matemáticas para estimar la (desconocida) media poblacional,  X. Esta fórmula es un estimador. Un estimador típico es la media muestral: …Este estimador es también una variable aleatoria porque depende de las valores aleatorios {X 1, …, X n }.

18 18 Densidad de probabilidad de X XX X XX X Como se ve en el gráfico, X tiene la misma media que X. Sin embargo, la varianza ed la distribución de X es más pequeña que la de X. Muestreo y estimadores

19 19 Función de densidad de probabilidad XX estimator B ¿Cómo escoger entre los estimadores A y B? La respuesta es usar el estimador más eficiente, es decir, aquel con la varianza más pequeña porque éste tiende a ser más acertado. En el diagrama el estimador más eficiente es B. Sesgo y eficiencia estimador A

20 20 Trade off entre sesgo y eficiencia (varianza) Suponga que tiene un estimador alternativo  de la población, uno insesgado, el otro sesgado pero con menor varianza. ¿Cómo escoger entre ambos? Función de densidad de probabilidad  estimador B estimador A

21 21 Una medida ampliamente utilizada es la media del error cuadrado del estimador, definido como el valor esperado del cuadrado de la desviación del estimador alrededor del verdadero parámetro de la población. Función de densidad de probabilidad ZZ sesgo estimador B Trade off entre sesgo y eficiencia (varianza)

22 22 Varianza: Estimador: Covarianza: Estimador: Estimadores muestrales de varianza, covarianza y correlación

23 23 Correlación: Estimador: Estimadores de varianza, covarianza y correlación El coeficiente de correlación de la población  XY para dos variables X y Y es definida por su covarianza dividida por la raíz cuadrada del producto de sus varianzas. El coeficiente de correlación muestral, r XY, se obtiene de reemplazar la covarianza y las varianzas por sus estimadores.

24 24 Consistencia Un estimador de la población es consistente si satisface dos condiciones: (1)Posee un límite probabilístico (plim), de modo que su distribución se vuelva un pico conforme el tamaño de la muestra tienda a infinito, y (2)El pico de esta distribución se localice en el “verdadero valor” del parámetro poblacional. Propiedades de los estimadores: consistencia

25 25 En este ejemplo, el estimador cumple con ambas condiciones… Una condición suficiente de consistencia es que el estimador debe ser insesgado y su varianza debe tender a cero conforme n se incrementa. 50100150200 n = 5000 0.8 0.4 0.2 0.6 Función de densidad de probabilidad de X Propiedades de los estimadores: consistencia

26 26 Sin embargo, la condición es suficiente, no necesaria. Es posible que un estimador esté sesgado en una muestra finita, pero el sesgo disminuye conforme el tamaño de muestra aumenta. n = 100 n = 1000 n = 20 Función de densidad de probabilidad de Z  Z n = 100000 Propiedades de los estimadores: consistencia

27 27 Si una variable aleatoria X tiene una distribución normal, su media muestral, X, también tendrá una distribución normal. Sin embargo, ¿qué ocurre si no conocemos la verdadera distribución de X? El teorema del límite central resuelve el problema. El TLC establece que: si las observaciones X i de una muestra son obtenidas de manera independiente (aleatoria) de la misma distribución y, si ésta distribución tiene una media y varianza poblacional finita  la distribución de X convergerá hacia una distribución normal. Es decir, que aunque la distribución de X sea desconocida, la distribución de sus estimadores muestrales tenderá a ser normal conforme N aumente. Esto implica que tanto los estadísticos t como los intervalos de confianza serán aproximadamente válidos, siempre que la muestra sea suficientemente grande. Teorema del Límite Central

28 28 Teorema del Límite Central El gráfico muestra cómo, conforme n aumenta, la distribución de la media de X converge hacia una distribución normal. Applets en línea: A Central Limit Theorem Applet Sample from a population / Sampling distributionsSample from a populationSampling distributions n = 100