La descarga está en progreso. Por favor, espere

La descarga está en progreso. Por favor, espere

Módulo 3: Midiendo la Exactitud Carlos López Vázquez

Presentaciones similares


Presentación del tema: "Módulo 3: Midiendo la Exactitud Carlos López Vázquez"— Transcripción de la presentación:

1 Módulo 3: Midiendo la Exactitud Carlos López Vázquez

2 Plan n Error, Exactitud y Precisión n Definiendo estándares n Informando sobre la Calidad n Midiendo y Verificando n Análisis de Sensibilidad

3 Error, Exactitud y Precisión n Si no se lo mide, no se lo puede administrar n Tiene implicancias: ä Sobre el dato final ä Sobre el proceso productivo ä Sobre las habilidades de las personas n Cada dato es específico, pero hay reglas generales

4 Definiendo estándares n Especificar criterios desde el principio n Para datos espaciales y no espaciales n Tópicos a considerar: ä Niveles de error admisible ä Diccionarios, tesauros ä Criterios de clasificación n Criterios para Datos n Criterios para Procedimientos n Tres pasos: Fuente: Foote and Huebner

5 1: qué exigir n Especificar criterios ä Mucha exactitud cuesta ä Poca exactitud cuesta ä Requisitos son propios del proyecto n Ir hacia atrás: desde el output a los inputs n Requerirán Análisis de Sensibilidad

6 2: entrenar a la gente n No alcanza con exigir el éxito n Deben conocerse los objetivos n Debe capacitarse para lograrlo n Deben saber para qué se hace así El proyecto no puede salir a pesar de la gente

7 3: verificar procesos y resultados n Aplique un control regular n El Control puede ser ä por lotes ä continuo n Aplicarlos ä A proveedores externos ä Internamente

8 Plan 4 Error, Exactitud y Precisión 4 Definiendo estándares n Informando sobre la Calidad n Midiendo y Verificando n Análisis de Sensibilidad

9 Informando sobre la Calidad n Siempre debe estar escrito ä En documentos independientes ä Dentro de los datos n Incluir Cómo, Cuándo, Dónde n Asignar a un responsable n Documentar preserva la inversión ä Los datos sobreviven más de lo esperado ä Típico es 50~100 años n Y después vendrán los arquéologos…

10 Plan 4 Error, Exactitud y Precisión 4 Definiendo estándares 4 Informando sobre la Calidad n Midiendo y Verificando n Análisis de Sensibilidad

11 Midiendo y Verificando n La realidad manda… n Comparar en campo si es posible n Comparar contra otra fuente más precisa si existe n Existen ensayos específicos por tipo de dato n Se aplican tests paramétricos y no paramétricos

12 Cualquiera sea el test… n Deberá ser científicamente creíble ä Basado en estadística, medidas o ambas ä Repetible por otros n Deberá costar algo razonable ä Costo en dinero ä Costo en tiempo n Ampliamente aceptable ä Basado en estándares profesionales, nacionales y/o internacionales

13 Veremos uno… NSSDA: National Standard for Spatial Data Accuracy (1998)

14 NSSDA n Identifica un estadístico bien definido para describir resultados de ensayos de exactitud posicional n Describe un método para el ensayo de coordenadas o posiciones n Provee un lenguaje estandarizado para informar la exactitud n No prevee ensayos para variables temáticas o categóricas; sólo cuantitativas POSITIONAL ACCURACY HANDBOOK 1999

15 Siete pasos 1. Determinar si se requiere exactitud horizontal, vertical o ambas 2. Seleccionar un conjunto de test points 3. Identificar y extraer los homólogos de un conjunto independiente de mejor exactitud 4. Tomar medidas en puntos idénticos a los anteriores

16 Siete pasos (cont) 5. Calcular un estadístico de la exactitud de la posición según corresponda 6. Preparar la declaración de exactitud según el formulario 7. Incluya esa declaración en los metadatos

17 Siete pasos 1. Determinar si se requiere exactitud horizontal, vertical o ambas 2. Seleccionar un conjunto de test points 3. Identificar y extraer los homólogos de un conjunto independiente de mejor exactitud 4. Tomar medidas en puntos idénticos a los anteriores

18 Siete pasos 1. Determinar si se requiere exactitud horizontal, vertical o ambas 2. Seleccionar un conjunto de test points 3. Identificar y extraer los homólogos de un conjunto independiente de mejor exactitud 4. Tomar medidas en puntos idénticos a los anteriores

19 Algunos detalles… n ¿Dónde localizar los puntos? n Bien definidos, fáciles de medir n Intersecciones perpendiculares n Monumentos n N>20, fallas 1 n ¿N20? ä Estimación deductiva ä Evidencia interna ä Comparación con la fuente POSITIONAL ACCURACY HANDBOOK 1999

20 Siete pasos 1. Determinar si se requiere exactitud horizontal, vertical o ambas 2. Seleccionar un conjunto de test points 3. Identificar y extraer los homólogos de un conjunto independiente de mejor exactitud 4. Tomar medidas en puntos idénticos a los anteriores

21 Datos ¿independientes? n Buscar puntos comunes n Exactitud ä Idealmente >> triple ä En otro caso… lo que haya (¡si es mejor!) n Documentarla en metadatos n ¡Usar sólo cifras significativas! n Exactitud ~uniforme en área n Área ~equivalente POSITIONAL ACCURACY HANDBOOK 1999

22 Siete pasos (cont) 5. Calcular un estadístico de la exactitud de la posición según corresponda 6. Preparar la declaración de exactitud según el formulario 7. Incluya esa declaración en los metadatos

23 Cálculos en horizontal… POSITIONAL ACCURACY HANDBOOK 1999 Si: Error x independiente de Error y Errores con distribución Normal No hay outliers

24 Cálculos en la vertical… POSITIONAL ACCURACY HANDBOOK 1999 Si: Errores con distribución Normal No hay outliers

25 Variables temáticas o categóricas n No contempladas en el NSSDA Es importante hacer foco en: n Naturaleza de los errores ä ¿Se confundieron especies de pinos? ä ¿Se confundió trigo con vid? n Frecuencia de los errores n Magnitud de los errores n Origen de los errores © Arthur J. Lembo, Jr. Cornell University

26 ¿Cómo medir la Exactitud? n Prepare una matriz de confusión ä Elija N puntos al azar ä Vea lo que dicen los datos ä Vea lo que hay en el terreno ä Cuente los casos n Idealmente, todo en la diagonal Datos Terreno ABC A1023 B0200 C4110

27 Alguna terminología n Error por Omisión Def.: Error por columna/total en columna (1.0 - Exactitud del productor ) n Error por Comisión Def: Error por fila/total en fila (1.0-Exactitud del usuario ) ¡No incluir los elementos de la diagonal!

28 Resultados del ejemplo n Exactitud Total : ( )/( )= 40/50 = 80% n Exactitud de comisión para la clase A: 10/(10+2+3) = 10/15 = 67% n Exactitud de omisión para la clase A: 10/(10+0+4) = 10/14 = 71% Datos Terreno ABC A1023 B0200 C4110

29 La tabla completa

30 El índice kappa de Cohen n Una medida de la exactitud observada en comparación con el azar n Es un único número (un escalar) n El ideal sería 1.0; lo peor sería 0.0 n Un valor intermedio 0.83 implica que se están evitando 83% de los errores que cometería una clasificación al azar n No está recogido en los estándares n Sin embargo se usa… n ¿Cómo calcularlo?

31 Ejemplo: 1. Calcular q para cada caso Def.: q es el número de casos en la diagonal por puro azar q i =sum i (fila)* sum i (col)/N q A =15*14/50=4.20 q B =20*23/50=9.20 q C =15*13/50=3.90 q=Total=17.3

32 Ejemplo (cont.): 2. Calcular kappa Def.: kappa= (traza(A)-q)/(N-q) Kappa=( )/(50-40) =0.227

33 Un pequeño problema… n Se asume que no hay confusión posible al construir la matriz de confusión n En la práctica… ä Absolutamente incorrecto ä Comprensible, pero incorrecto ä Razonable, pero podría ser mejor ä Buena respuesta ä Absolutamente correcto

34 Digresión: Midiendo Calidad… n Estamos revisando los siete pasos n Hemos visto algunos tests de Exactitud n Algunos estandarizados, otros no ä Para posición ä Para atributos n Esencialmente controlan Exactitud n Pero en Calidad no todo es Exactitud…

35 Otras componentes… n Completitud n Coherencia lógica n Exactitud temporal n Linaje n Metadatos

36 Ejemplo: Coherencia lógica n Representación sin sentido ä Caminos en el agua ä Isolíneas que se cortan ä Puentes sin rutas o sin río ä Cuencas hidrográficas vs. ríos

37 Volviendo a los Siete pasos… 5. Calcular un estadístico de la exactitud de la posición según corresponda 6. Preparar la declaración de exactitud según el formulario 7. Incluya esa declaración en los metadatos

38 Declaración de Exactitud n En el estándar se consideran dos formatos: 1. __ mts de exactitud (horizontal/vertical) al 95% de confianza 2. Compilado para tener __ mts de exactitud (horizontal/vertical) al 95% de confianza n Usar (1) si se dispone de datos específicos independientes n Usar (2) si se utilizó un procedimiento estándar consistente con el error obtenido POSITIONAL ACCURACY HANDBOOK 1999

39 Incluyendo la Incertidumbre n Falacia de Falsa Precisión ä Una represa de 1: ,89 m 3 ä La probabilidad de falla es n Regla (indefendible…): un décimo de la resolución ä Población en unidades densidad en décimos ä Simple y popular, ¡pero errónea!

40 Incluyendo Incertidumbre (2) n Falacia de Falsa Certidumbre ä Respuestas precisas sin sustento ä Exacerbado al combinar capas ä Ni hablar de mezclar escalas ä Problema extremadamente corriente n Lo correcto sería alguno de: ä resultado+intervalo ä [peor, típico, mejor] ä [min,max] con probabilidad X n ¿Cómo determinarlo?

41 Siete pasos (cont) 5. Calcular un estadístico de la exactitud de la posición según corresponda 6. Preparar la declaración de exactitud según el formulario 7. Incluya esa declaración en los metadatos

42 Comunicando… n Si hay varias capas, podría requerirse una declaración para cada una de ella n Si hay una mezcla inseparable y no ensayada, asignarle el peor nivel de error n Si está ensayada, asignarle el nivel obtenido n Nunca use más cifras que las de los datos POSITIONAL ACCURACY HANDBOOK 1999

43 Otras formas de estimar… n Si tiene pocos puntos n Si la distribución es claramente no- gaussiana n ¡No está previsto en el estándar! Use Remuestreo ( Bootstrap ) Atención: Lo que de allí resulte complementa, pero no sustituye a lo requerido por el estándar

44 Breve introducción al Bootstrap

45 ¿Porqué Remuestrear? n En ocasiones no es posible tener muchas muestras de una población n En ocasiones no es correcto (o posible) asumir una distribución para una población n El objetivo es: Assess sampling variation Fuente: Lucila Ohno-Machado

46 Bootstrap n Efron (biostadístico de Stanford ) a finales de los 80s ä Pulling oneself up by ones bootstraps n Es un enfoque no paramétrico para inferencia estadística n Usa cálculos (fuerza bruta) en lugar de resultados asintóticos e hipótesis tradicionales sobre distribuciones n Puede usarse para obtener errores estándar, intervalos de confidencia y prueba de hipótesis

47 Ejemplo n Adaptado de Fox (1997) Applied Regression Analysis n Objetivo: Estimar diferencia promedio de respuestas entre Hombre y Mujer n Se dispone únicamente de cuatro parejas de observaciones:

48 Observ.HombreMujerDiffer

49 Diferencia promedio n Promedio de la muestra es ( )/4 = 2.75 n Problema : no conocemos n Si Y fuese normal, el Intervalo de Confianza CI al 95% sería

50 Estimadores corrientes n El estimador de es n El estimador de la desviación estándar es n Asumiendo que la población es normal, podemos usar la distribución-t como

51 Intervalo de Confianza CI = 2.75 ± 4.30 (2.015) = 2.75 ± < < 11.41

52 Media y varianza de la muestra Idea: usar la distribución Y* de la muestra para estimar la distribución Y de la población y*p*(y*) E*(Y*) = y* p(y*) = V*(Y*) = [y*-E*] 2 p(y*) 3.25 = DE*(Y*)=sqrt(V*(Y*) )=1.745

53 Muestreo con Reemplazo Muestra Y1*Y1*Y2*Y2*Y3*Y3*Y4*Y4* * … Sólo hay 256 posibilidades Otro caso extremoCaso extremo

54 Calculando nuevos CI El promedio de estos 256 promedios es nuevamente 2.75, pero su desviación es ahora (sin ^ porque la desviación ahora no se estima)

55 ¿Y entonces? n ¡Esto ya era sabido! n Pero mediante remuestreo o bootstrap ä Los Intervalos de Confianza pueden ser más precisos ä Pueden ser calculados para problemas no lineales que no tienen fórmulas de error conocidas

56 La población es a la muestra lo mismo que la muestra es a las remuestras En la práctica (a diferencia del ejemplo anterior), no todas las N N remuestras son seleccionadas

57 Procedimiento 1. Especifique un criterio de muestreo que produzca la muestra que se utilizará Criterio(población) muestra Léase como el criterio aplicado a la población 2. Use esta muestra como si fuese la población (pero con reemplazo ) Criterio(muestra) re-muestra1 re-muestra2 etc…

58 Procedimiento (2) 3. Para cada remuestra, calcule el estimador estadístico de su interés 4. Use la distribución de los estimadores de las remuestras para estimar las propiedades de la muestra

59 Atención: n Remuetreo no es válido absolutamente para todo n No debe usarse si hay colas largas n Ej.: estimación del rango

60 Otro ejemplo: n Ver si unos datos ajustan al modelo n Confirmar que el proceso está bajo control ä Tomar muestras al azar y confirmar que es de distribución, parámetros y escala fijos n En particular, confirmar CI al 95%

61 ¿Qué hacer primero? 4 gráficos

62 Supongamos Uniforme…

63 Un estimador para C n Y i no es normal n Aplicaremos remuestreo n Estimadores posibles de C ä Media ä Mediana ä Promedio del rango ä Quizá otros… n Buscaremos el de mínima varianza

64 Cómo lucen los CI Relativamente disperso Mucho más concentrado

65 Importancia… n Lo típico es requerir CI para la media ä Caso normal: hay solución analítica n En otros casos no la hay ä Es donde el bootstrap/resampling muestra su importancia

66 Otros métodos de remuestreo n Jackknife ( sacar de a uno ) es un caso especial de bootstrap ä Remuestreo sin un caso y sin reemplazo (las muestras pasan a tener tamaño n-1 ) n Validación cruzada ä Divide los datos en entrenamiento y test n Generalmente se los usa para estimar intervalos de confianza en predicciones para el modelo full (i.e., modelo que usa todos los casos)

67 Recapitulando: n Vimos estándares n Vimos métricas de Exactitud ä Posicionales ä Atributos Cuantitativos, Cualitativos, etc n Vimos métodos para medir Exactitud ä Cuando hay acceso a suficientes valores mejores ä Cuando son gaussianos n Para los otros casos ä Explicamos e ilustramos Bootstrap ä Mencionamos Jacknife

68 Plan 4 Error, Exactitud y Precisión 4 Definiendo estándares 4 Informando sobre la Calidad 4 Midiendo y Verificando n Análisis de Sensibilidad

69 Análisis de Sensibilidad n Siempre hay que Validar los resultados ä Conjunto de entrenamiento ä Conjunto de validación n ¿Cómo? Depende del Modelo+Datos n Datos continuos derivada parcial n Datos categóricos simulación Se suele hacer al final… ¡pero puede invalidar todo el proyecto!

70 Cuanto antes mejor… n Si el dato no existe con la exactitud requerida n Si no era necesaria tanta exactitud ¡Todo cuesta! n Datos pueden ser irrelevantes… ä Tipo de suelo para estudio eólico n Relevancia diferente según el output ä Producción de energía en kWh-año ä Costo del proyecto en U$S

71 n Supongamos n ¿Cómo se relaciona la Var(f) con Var(x)? n Más en general: Ejemplo analítico 1 i.e. f = |a| x Pero vale sólo si la aproximación lineal es buena en el rango del error

72 Ejemplo analítico 2 n Consideremos ahora Nuveamente sólo es válida si la aproximación lineal es buena en el rango del error El coeficiente de correlación [-1,+1] es 0 si x,y no están correlacionadas n En general

73 n Ahora considérese ä Resultados similares para n Otras fórmulas útiles Otras fórmulas analíticas (sólo créanlo…) El error relativo en x o 1/x es el mismo Error en el logaritmo es el error relativo

74 En general… n Hay que estimar las derivadas parciales n Métodos numéricos aproximados : ä Cociente incremental ä Uso de números complejos n Problema: hay que estimar incremento Δ apropiado n Alternativa: uso de la derivada exacta

75 Derivada exacta… n Derivación manual ä Sólo en casos simples; require codificar n Derivación automática ä Variante 1: Generador de nuevo código ä Variante 2: Sobrecarga de operadores n Paquetes ä ADOL-F/ADOL-C ä TAPENADE ä Matlab+ADMAT ä Otros… n Ejemplos

76 Generadores de código n Generan automáticamente un segundo código fuente a partir del disponible n ADOL-C/ADOL-F/TAPENADE, etc. n Derivada exacta; no hay cociente incremental n Ejemplo:

77 Sobrecarga de operadores n Sólo en ambientes orientados a objetos n Ej.: Matlab + ADMAT toolbox n Ventajas: ä Derivada exacta (tampoco hay cociente incremental) ä Sólo hay un código fuente

78 ¿En qué andábamos? n Estábamos haciendo un Análisis de Sensibilidad ä ¿Alcanza/no alcanza la Exactitud de los datos disponibles? n Vimos Métodos Analíticos ä Sólo para datos continuos n Veremos métodos Estadísticos de Simulación ä Para datos continuos/categóricos

79 Métodos de Monte Carlo n Cualquier procedimiento que usa números aleatorios n ¿Números aleatorios? ä ¿Qué es un número aleatorio? ¿ Un número? ä Secuencia de números aleatorios Fuente: Vesna Luzar-Stiffler

80 La parte aleatoria… n Distribución Uniforme ä Todo número en [0,1] tiene la misma probabilidad ä Fundamental (se usa para otras distribuciones) ä Para muestreo al azar, etc. n ¿Cómo generar una secuencia de números aleatorios? ä Usar un sistema caótico (moneda, dado, etc.) ä Usar un proceso inherentemente randómico ä Usar tablas de números aleatorios n Problema: ä Resultados no reproducibles ä Impráctico, no confiable (¿sesgos?) ä Tablas – no suficientemente extensas 0 1 p(0.3)=p(1)=...

81 Números seudo-aleatorios n Números pseudo-aleatorios generados con algoritmos ä No correlacionados, ciclos largos, etc. n Ej.: Middle square algorithm (J. Von Neumann, 1946): ä Para generar una secuencia de enteros de 10 dígitos: –Elija uno cualquiera, –Elévelo al cuadrado y luego –Extraiga los 10 dígitos intermedios como el siguiente número de la secuencia ä Por ejemplo:

82 Seudo-Aleatorios… n ¡No son al azar! Son series totalmente determinísticas y predecibles n Lucen como al azar, pero … ¡ LOOP!

83 Linear congruential method (Lehmer, 1948) n I n+1 = (a*I n + c) mod m ä I 0 = Valor inicial (semilla) ä a,c 0, ä m > I 0, a,c n Una mala elección de constantes generará secuencias malas: ä Ej.: a=c=I 0 =7, m=10 ä 7,6,9,0,7,6,9,0,... A mod B=resto de dividir A entre B loop

84 Familia popular… n RANDU: I n+1 = (65539*I n ) mod 2 31 ä Se vio que no era bueno n RANMAR: I n = (a*I n-1 + b*I n-2 ) mod m ä genera series con período n En general se deberían usar generadores conocidos, con propiedades bien documentadas n Sin embargo…

85 Para PDF´s no uniformes n Puede haber rutinas específicas (ej.: N(0,1)) n ¿Otros casos? ä Método de la probabilidad inversa –Calcular –Generar t~U(0,1) –Evaluar –x resulta tener pdf igual a f(s) ä Hay otros métodos para casos particulares n Problemas: pdfs discretas, eficiencia, etc.

86 Simulación de Monte Carlo n Aparece con las primeras computadoras ( ) n Áreas de aplicación incluyen biología, química, informática, análisis de datos econométricos y financieros, ingeniería, ciencia de los materiales, física, ciencias sociales, estadística, etc. n La SMC se resume en: ä Asumiendo un mecanismo para generar datos de su proceso ä Produzca nuevas instancias de datos simulados ä Examine estadísticamente los resultados de esas instancias n Si se tiene la pdf SMC estándar n Si no, se usa Remuestreo (que es un pariente cercano)

87 Algunos problemas… n SMC plantea gran demanda de CPU ä Varianza ~1/sqrt(N) ä Bajar el error un 10% requiere multiplicar por 100 el número de simulaciones n Se intenta mejorar esta característica ä Técnicas de Reducción de Varianza (TRV) n Veamos de qué se trata…

88 TRV: Enfoque Antitético Se basa en que Si X 1 y X 2 son independientes, Si se pueden generar X 1 y X 2 de forma que tengan correlación Cov( X 1,X 2 ) negativa puede lograrse que Var(X 1 +X 2 ) sea menor que si son independientes

89 Ejemplo: Integral (o promedio) Puede ser reformulado como donde X i y X i están correlacionados negativamente y las Y i siguen siendo independientes

90 ¿Cómo lograr correlación negativa? Si F(s) es monótona (y por lo tanto también F -1 (s)) entonces X´ y X tienen correlación negativa El procedimiento en general es X=F -1 (U) donde U~U(0,1) y dF/ds=f(s) Pero U~U(0,1) implica que (1-U)~U(0,1). Por lo que, X´=F -1 (1-U) también tiene la misma distribución f(s) que X

91 Otros trucos… n Si se quiere calcular En ocasiones es fácil resolver analíticamente la integral y posteriormente hacer la simulación de Monte Carlo en el residuo, logrando

92 Aspectos importantes en SMC n Diseño apropiado n Medida de la exactitud del resultado n Justificación del número de casos/muestras n Selección del generador aleatorio n Memoria y tiempo de cálculo n Técnica de reducción de varianza n Software usado n Análisis del resultado (visualización, ajuste por curvas, etc.)

93 En resumen: n Como productor: hay estándares para expresar Exactitud ä Para posición y variables continuas ä No para variables categóricas n Estimación basada en suficientes valores más exactos ä Alternativamente, usar Bootstrap n Como usuario: preocuparse mucho sólo si el problema es sensible

94 ¿Cómo medir Sensibilidad? n Hay técnicas informáticas… ä Simulación Monte Carlo –Uso general, no paramétrica, etc. –Mucha CPU y tiempo ä Propagación de errores –Sólo funciones diferenciables –No requiere simulación –Complejas para algunas operaciones GIS típicas n Escasa disponibilidad en GIS

95 Módulo 3: Midiendo la Exactitud Carlos López Vázquez


Descargar ppt "Módulo 3: Midiendo la Exactitud Carlos López Vázquez"

Presentaciones similares


Anuncios Google