Departament d’Estadística Divisió de Ciències Experimentals i Matemàtiques Suficiencia y familia exponencial Programa de doctorado en Estadística, Análisis de datos y Bioestadística Fundamentos de Inferencia Estadística Jordi Ocaña Rebull

Puntos a tratar  Idea intuitiva de suficiencia  Definición de suficiencia  Teorema de factorización de Neyman  Suficiencia en términos de verosimilitudes equivalentes  Estadístico suficiente minimal  Familias o modelos exponenciales  Propiedades de los modelos exponenciales

Idea intuitiva de suficiencia  Un estadístico T es suficiente para un parámetro q si, para cualquier muestra y, el valor t = T(y) contiene toda la información relevante sobre q que contenía y  En este sentido, T es “buen resumen” de la información de la muestra  ¿Qué significa “la información que contiene una muestra”?

Definición de suficiencia  Dado un modelo el estadístico T (posiblemente multidimensional) es suficiente para el parámetro q sii la distribución de Y condicionada al valor observado de T, f(y|T=t), no depende de q  Conocido T, la probabilidad asociada a la muestra ya no depende del parámetro

Teorema de factorización de Neyman  Definición anterior equivalente a poder escribir.  o, equivalentemente, es decir, la muestra solamente interviene en la función de verosimilitud a través del valor del estadístico

Estadísticos suficientes, ejemplos Estadístico suficiente trivial. Caso Poisson  Caso trivial: la propia muestra, T(y)=y  Parámetro l de una Poisson para una m.a.s. y=(y 1,..., y n ) y los estadísticos: –frecuencias de los valores presentes en y: –suma: –promedio:  todos son suficientes –pero los dos últimos de menor dimensión

Estadísticos suficientes, ejemplos Parámetros de la normal univariante  Caso en el que y es m.a.s. de tamaño n de normal N(m,s 2 ), q = (m,s 2 )’ –muestra ordenada –suma y suma de cuadrados –media muestral y varianza muestral  todos son suficientes

Estadísticos suficientes, ejemplos Parámetro p en experimentos de Bernouilli  y 1,..., y n Bernouilli b(1,p) iid, indicadores de ocurrencia de suceso A, Pr(A)=p, frecuencia absoluta estadístico suficiente para p (o también frecuencia relativa)

Estadísticos suficientes, ejemplos Experimentos de Bernouilli multinomiales  Generalizable al caso multinomial, cada y i será ahora (y i1,..., y ik ), y ij =0 ó 1 (con un solo 1 y (k-1) 0), indicadores de k sucesos mutuamente excluyentes (A 1,..., A k ) con probabilidades (p 1,..., p k ),  El estadístico suficiente es ahora

Suficiencia en términos de verosimilitudes equivalentes  Para el modelo F un estadístico T(y) es suficiente para el parámetro q sii toma los mismos valores en dos puntos y, z   del espacio muestral sólo si tienen verosimilitudes equivalentes, es decir:  Podría servir de definición de suficiencia  Concepto dependiente del modelo

Comentarios sobre el sentido del concepto de suficiencia. I  El resultado final de los experimentos, y, concebible como obtenido en dos fases: –Seleccionar el valor de t a partir de densidad g(t,q) (dependiente de q) –Equivalente a haber escogido el conjunto de las muestras que podrian conducir a t: A t = {y:T(y)=t}. De él se extrae finalmente un elemento y  A t según ley de probabilidad que no depende de q

Comentarios sobre el sentido del concepto de suficiencia. II  y, z  A t Þ T(y)=T(z)=t Þ L(q;y) µ L(q;y)  Más importante que valor concreto t es el conjunto de muestras A t asociadas: estadístico suficiente parte el espacio muestral  en clases de equivalencia, L única dentro de cada una ellas  Þ cualquier estadístico U función monótona de T también es suficiente

Estadístico suficiente minimal  Estadístico suficiente puede no ser “suficientemente resumido”: demasiados valores posibles, no todos informativos  T es suficiente minimal para q sii es suficiente y toma valores distintos sólo para verosimilitudes no equivalentes:

Comentarios sobre el estadístico suficiente minimal  Siempre existe, cualquiera asociado a la partición de Y según L equivalentes –el valor concreto que tome no importa, lo importante es que cada valor distinto debe representar L distinta –esencialmente el mismo, invariante respecto de transformaciones biyectivas  Criterio práctico para identificarlos:

Familias o modelos exponenciales  Un modelo F es exponencial sii sus elementos se pueden escribir de la forma:  Por lo tanto, forma de la verosimilitud:

Ejemplos de modelos exponenciales: binomial

Ejemplos de modelos exponenciales: normal

Propiedades  Reproducible  Soporte independiente del parámetro  Si modelo reducido (no q redundantes), (t 1,..., t r ) suficiente minimal para q  Diferenciable de cualquier orden respecto de q si  i lo son  Integral y derivada intercambiables en