Departament d’Estadística Divisió de Ciències Experimentals i Matemàtiques Cantidad de Información de Fisher y propiedades de los MLE Programa de doctorado en Estadística, Análisis de datos y Bioestadística Fundamentos de Inferencia Estadística Jordi Ocaña Rebull

Diapositiva resumen  Problema regular de estimación  Información de Fisher observada  Información de Fisher esperada  Propiedades de la información de Fisher  Desigualdad de Cramér-Rao  Propiedades asintóticas de los MLE  MLE e información de Fisher en los modelos exponenciales

Problema regular de estimación  Modelo estadístico F identificable  Espacio paramétrico, , es un abierto de R k  Para toda densidad f  F, soporte de f(y;q) independiente de q  Derivación respecto de q e integración respecto de y doblemente intercambiables:

Problema regular de estimación intercambiabilidad de integración y derivación  Caso de parámetro escalar:  Para parámetro multidimensional, igualdad entre matrices

Cantidad de información de Fisher observada  Definida como:  Medida de la curvatura local de l en la MLE: indicador del grado de preferencia del MLE sobre los puntos de alrededor.

Cantidad de información de Fisher esperada  Definición:  Equivalente a:

Cantidad de información de Fisher esperada  Parámetro multidimensional:

Propiedades de la información de Fisher. (i)  Aditividad: siY 1,Y 2 son (sub)muestras independientes con información I 1 (q) e I 2 (q) respectivamente, la información asociada a (Y 1 ;Y 2 ) es I 1 (q)+I 2 (q)  Consecuencia: si i(q) es la información asociada a un dato y j, ni(q) es la información asociada a una m.a.s. de tamaño n, y 1,...,y n

Propiedades de la información de Fisher. (y ii)  Sea y = y(q) invertible y diferenciable –Para parámetros escalares: –En general:  Si T(Y) estadístico, I T (q) £ I Y (q) –Si suficiente para q, I T (q) = I Y (q)

Desigualdad de Cramér-Rao. (i)  T estadístico con momentos de segundo orden finitos, con a(q)=E q {T(Y)}, a(q) derivable y 0 < I(q) < ¥: –Si T insesgado: –Si parámetro multidimensional

Desigualdad de Cramér-Rao. (y ii)  No siempre existe (o es único) T(y) que llegue a varianza mínima de Cramér- Rao  Condición necesaria y suficiente para que exista un tal estimador: que exista una constante k(q) tal que la igualdad

Consecuencias de la igualdad anterior Supongamos que T(y) alcanza la cota de Cramér-Rao:  Si es MLE de q, T(y) función de :  Si T estimador insesgado de q, coincide con el MLE,  T(y) es suficiente

Propiedades asintóticas de los estimadores MLE  Bajo (complicadas) condiciones de regularidad (por ejemplo): –Problema regular de estimación –Existencia y valor positivo de I(q) –Existencia y acotación de terceras derivadas de l –Muestreo aleatorio simple  MLE son consistentes, asintóticamente normales y asintóticamente eficientes

(Una) expresión concreta de las propiedades asintóticas de MLE

MLE e información de Fisher en los modelos exponenciales  Caso q unidimensional. t(y) es suficiente

MLE e información de Fisher en los modelos exponenciales  Relación con información de Fisher observada: