Aplicaciones de las Redes Neuronales Artificilaes Dr. Héctor Allende

Redes Neuronales Artificiales Areas de Aplicación Areas donde se aplican ANN: Ingeniería ( Control, Robótica, Visión ) Ciencias de la computación. Neurofisiología. Física. Matemáticas Ciencia del Conocimiento. Economía y finanzas Estadísticas. Profesor: Dr. Héctor Allende Redes Neuronales Artificiales

Redes Neuronales Artificiales Aplicaciones. Algunas aplicaciones: Reconocimiento de patrones. Predicción. Regresión. Compresión. Procesamiento de Señales Data Mining. Series de Tiempo. Finanzas. Reconocimiento de voz, caras, caracteres . Restauración de imagenes.etc. Profesor: Dr. Héctor Allende Redes Neuronales Artificiales

Ejemplo Modelos de Regresión Redes FeedForward

Redes Neuronales Artificiales Modelos de Regresión Tipo de Redes: Feedforward , Feedforward Recurrentes Característica: Las redes Feedforward son aproximadores universales. Pueden modelar funciones altamente no-lineales, donde modelos lineales tradicionales, no se comportan bien. No necesitan conocomiento del fenómeno, sólo un conjunto de datos. Aprendizaje es supervizado. Corrección del Error Profesor: Dr. Héctor Allende Redes Neuronales Artificiales

Formulación del problema Se desea modelar la siguiente función donde con Profesor: Dr. Héctor Allende Redes Neuronales Artificiales

Redes Neuronales Artificiales Tipo de ANN utilizada La entrada a la red fue normalizada entre [-1,1]. Tiene 1 neurona de entrada y 1 de salida. La red tiene 1 capa escondida y 3 neuronas escondidas. La red es del tipo FeedForward con algoritmo de aprendizaje Back-Propagation. Profesor: Dr. Héctor Allende Redes Neuronales Artificiales

Proceso de Aprendizaje. Desempeño del BackPropagation Profesor: Dr. Héctor Allende Redes Neuronales Artificiales

Datos experimentales y salida de la ANN Profesor: Dr. Héctor Allende Redes Neuronales Artificiales

Ejemplo Series de Tiempo y Predicción Redes FeedForward

Formulación del problema Tipo de Redes: FeedForward. Modelar los datos de la “Línea Aerea Internacional” modelo (ARIMA), de orden (0,1,1)x(0,1,1)12 Profesor: Dr. Héctor Allende Redes Neuronales Artificiales

ANN de los datos de la Aerolínea Profesor: Dr. Héctor Allende Redes Neuronales Artificiales

Redes Neuronales Artificiales Datos de la Aerolínea Profesor: Dr. Héctor Allende Redes Neuronales Artificiales

Ejemplo Clasificación de Patrones LVQ (Learning vector quantizacion)

Clasificación de Patrones Tipo de Redes: LVQ (Learning vector quantizacion). Característica: Consiste en clasificar un conjunto de elementos en un conjunto de clases. Se debe utilizar redes con aprendizaje supervisado. Las ANN son ampliamente usada en problemas de clasificación. Profesor: Dr. Héctor Allende Redes Neuronales Artificiales

Formulación del Problema Patrones: P son los patrones de entrada (p1 , p2) C es la clase a la cual pertenece cada patrón. Profesor: Dr. Héctor Allende Redes Neuronales Artificiales

Gráfico de la ubicación de los Patrones. Rojo : Clase 1 Celeste : Clase 2 Profesor: Dr. Héctor Allende Redes Neuronales Artificiales

Redes Neuronales Artificiales Parámetros de la ANN Neuronas escondidas: 4 Razón de aprendizaje: 0.1 Por ciento de cada clase: Clase 1: 60%, Clase 2: 40% Profesor: Dr. Héctor Allende Redes Neuronales Artificiales

Resultado de la Red neuronal. + Vectores de entrada. O Pesos de las neuronas Rojo: patrones clasificados como clase 1 Celeste: patrones clasificados como clase 2. Profesor: Dr. Héctor Allende Redes Neuronales Artificiales

Clasificación de caracteres Counterpropagation Network Redes CPN

Clasificación de Caracteres Tipo de Redes: CPN. Característica: Consiste en un problema de clasificación de patrones. Se debe utilizar redes con aprendizaje supervisado. Las ANN son ampliamente usada en estos problemas de clasificación. Profesor: Dr. Héctor Allende Redes Neuronales Artificiales

Formulación del Problema Se tiene un conjunto de letras como una imagen binaria de 5x6 pixeles, “1”cuando el pixel esta encendido y “0” cuando el pixel esta apagado La red tiene que asociar correctamente el código ASCII a la imagen. Profesor: Dr. Héctor Allende Redes Neuronales Artificiales

Ejemplo de Imágenes de Letras Profesor: Dr. Héctor Allende Redes Neuronales Artificiales

Representación de las letras Profesor: Dr. Héctor Allende Redes Neuronales Artificiales

Redes Neuronales Artificiales Letras de Testeo Profesor: Dr. Héctor Allende Redes Neuronales Artificiales

Ejemplo Problemas de Heurística: Traveling Salesperson Problem (TSP) Redes de Hopfield

Problemas de Heurística: “Problema del Vendedor Viajero” Tipo de Redes: Hopfield bidimensional con memoria continua. Característica: Problema del tipo NP (no-polinomial). Consiste en un problema de Optimización. Se debe utilizar redes con aprendizaje no supervisado. Profesor: Dr. Héctor Allende Redes Neuronales Artificiales

Formulación del Problema Condiciones: Un vendedor viajero debe visitar un número de ciudades, visitándolas todas, solo una vez. Moverse de una ciudad a otra tiene un costo asociado ( dependiendo de la distancia) . El vendedor viajero debe volver al punto de partida. Se debe encontrar la secuencia correcta que minimiza el costo. (n!): 2n = número de recorridos distintos Profesor: Dr. Héctor Allende Redes Neuronales Artificiales

Redes Neuronales Artificiales Análisis del Problema Sea C1, C2, .., CK las ciudades involucradas. A cada ciudad se le asocia un número que representa el orden en el que fue visitada. La representación es binaria. Ej: 1era ciudad = (1 0 0... 0) Ej: 2da ciudad = (0 1 0 ... 0) Etc... Profesor: Dr. Héctor Allende Redes Neuronales Artificiales

Matriz que define el Problema Profesor: Dr. Héctor Allende Redes Neuronales Artificiales

Redes Neuronales Artificiales Análisis del Problema La idea es construir una memoria de Hopfied Bidimensional, tal que la salida es la matriz Y que tiene la forma anterior, y será la solución. Profesor: Dr. Héctor Allende Redes Neuronales Artificiales

Redes Neuronales Artificiales Restricciones para Y Cada ciudad no puede ser visitada más de 1 vez.  Cada fila tiene no más de un 1. 2 ciudades no pueden ser visitadas al mismo tiempo  Cada columna no puede contener más que un 1. Todas las ciudades deben ser visitadas  Cada fila o columna debe tener al menos un 1. El costo o distancia total debe ser minimizado. Sea dk1 k2 el costo entre las ciudades Ck1 y Ck2. Profesor: Dr. Héctor Allende Redes Neuronales Artificiales

Pesos asociados a las Neuronas. Profesor: Dr. Héctor Allende Redes Neuronales Artificiales

Construcción de los pesos. Cada ciudad debe aparecer 1 vez en el tour: Una neurona en una fila debe inhibir todas las otras de la misma fila. Profesor: Dr. Héctor Allende Redes Neuronales Artificiales

Construcción de los pesos. No debe haber con el mismo número de orden en un tour. Una neurona en una columna debe inhibir todas las otras de la misma columna. Profesor: Dr. Héctor Allende Redes Neuronales Artificiales

Construcción de los pesos. La mayoría de las neuronas deben tener valor cero entonces se debe usar inhibición global Profesor: Dr. Héctor Allende Redes Neuronales Artificiales

Construcción de los pesos. Distancia total debe ser minimizada, entonces las neuronas reciben entrada inhibitoria proporcinal a la distancia. Profesor: Dr. Héctor Allende Redes Neuronales Artificiales

Redes Neuronales Artificiales Función de Energía Función de energía de la memoria discreta de Hopfield: Formula de actualización: Profesor: Dr. Héctor Allende Redes Neuronales Artificiales

Inicio del Algoritmo. TSP 50 ciudades Profesor: Dr. Héctor Allende Redes Neuronales Artificiales

Solución Encontrada. TSP 50 ciudades Profesor: Dr. Héctor Allende Redes Neuronales Artificiales