Algunas consideraciones con Redes Neuronales IN78J Luis Aburto Lafourcade laburto@dii.uchile.cl DII

¿Qué entendemos por una Red Neuronal MALA? Una que no resuelve el problema para la que fue entrenada? Una que aparentemente resuelve el problema,al menos para los datos con que fue entrenada, Pero falla drásticamente ante nuevos datos?

¿Es fácil construir una red neuronal MALA? SI! Incluso la gente más hábil en el tema puede llegar a esto Incluso software especializado también puede llegar a esto Fallas de esta metodología contribuyen a darle “mala fama” a estas tecnologías, siendo que su uso correcto tiene grandes capacidades Soluciones: Pensar acerca de los datos Pensar acerca de la red Pensar acerca de como evaluamos la red

Aprendizaje Supervisado Repetidamente se presentan los casos con sus variables de entradas y salidas deseadas Salida Calculada por la red y salida deseada es comparada para medir un error asociado a cada ejemplo Se ajustan los pesos para que la salida calculada sea (casi) correcta para todos (o la mayoría) los casos entrenados. El ajuste de pesos se realiza mediante un algoritmo llamado Backpropagation

Algunas consideracines para los datos 1.- Si entrenamos la red primero para hacer una tarea A, y luego entrenamos para hacer tarea B, hace bien la B pero olvida la A! Solución: Presentación Aleatoria 2.- No podemos entrenar con un tipo de datos y Evaluar sobre otro conjunto de datos Redes Neuronales (y cualquier modelo estadístico) pueden interpolar muy bien, pero les cuesta mucho extrapolar Usar datos representativos para entrenar 3.- Cantidad de casos usados para entrenar la red neuronal: Regla simple: Usar 5 veces más el número de casos que de parámetros usados en el modelo Ej: 6 unidades de entrada y 6 unidades en capa oculta  6X6= 36 parámetros. Necesitamos 180 casos para entrenar

¿Cómo selecciono variables? Varios métodos estadísticos disponibles para medir la significancia de cada variable. De esta forma podemos descartar variables inútiles Un modelo simple entrega mejores resultados y más comprensibles

Outliers

Outliers

Outliers Los valores extremos pueden venir de datos incorrectos No siempre provienen de errores (pueden contener información muy rica!) Investigar los outliers!!! Incorporar variables de entrada que puedan identificar outliers a priori

Missing Values

Calidad de los Datos

Escalamiento y Procesamientos de los Datos No es lo mismo: Una variable de entrada con rango entre 1 y 10.000 Que otra variable de entrada con rango entre 0,1 y 0,0001 La red Neuronal debiera colocar pesos pequeños para la primera variable y pesos grandes para la segunda ¿Podríamos ayudar a la red neuronal diciéndole que una unidad está en Miles de veces que la otra? Escalar las entradas entre 0 y 1 ayuda! scaledX = (X - minX)/(maxX - minX)

Medidas de Desempeño Hay que tener cuidado respecto de como evaluamos el desempeño del modelo Por ejemplo, un clasificador red neuronal con una variable de salida, codificando ‘1 = SI’ y ‘0 = NO’ La salida de la red neuronal es un continuo. ¿Cómo decido que la salida es SI o NO? Salida > 0,5  SI Salida < 0,5  No Pero que pasa si cambio el umbral a 0,4 o 0,6? Còmo cambia el desempeño Matriz de Confusión Incluir costos de errores Tipo I y Tipo II