La descarga está en progreso. Por favor, espere

La descarga está en progreso. Por favor, espere

1 Jonathan Lizano A63183 Aarón Víquez A66283 Red Neuronal de Contrapropagación.

Presentaciones similares


Presentación del tema: "1 Jonathan Lizano A63183 Aarón Víquez A66283 Red Neuronal de Contrapropagación."— Transcripción de la presentación:

1 1 Jonathan Lizano A63183 Aarón Víquez A66283 Red Neuronal de Contrapropagación

2 2 Agenda Introducción Introducción Objetivos Objetivos Reseña histórica Reseña histórica Terminología Terminología Estructura de la red Estructura de la red Consideraciones Consideraciones Ejemplo Ejemplo Ambientes de programación Ambientes de programación Áreas de aplicación Áreas de aplicación Conclusiones Conclusiones

3 3 Introducción Existen muchos tipos de redes neuronales artificiales, cada una de ellas busca resolver ciertos tipos de problemas con cierto procedimiento. Existen muchos tipos de redes neuronales artificiales, cada una de ellas busca resolver ciertos tipos de problemas con cierto procedimiento. En lo que varían pincipalmente es en el algoritmo de aprendizaje. Éstos pueden ser supervisados, no supervisados e híbridos. En lo que varían pincipalmente es en el algoritmo de aprendizaje. Éstos pueden ser supervisados, no supervisados e híbridos. Jonathan Lizano A63183 Aarón Víquez A66283

4 4 Objetivos Conocer las estructuras del modelo de contrapropagación. Conocer las estructuras del modelo de contrapropagación. Conocer el funcionamiento del modelo de contrapropagación. Conocer el funcionamiento del modelo de contrapropagación. Proveer ejemplos de aplicaciones de este modelo. Proveer ejemplos de aplicaciones de este modelo. Jonathan Lizano A63183 Aarón Víquez A66283

5 5 Reseña histórica Desarrollado por el profesor Robert Hecht- Nielsen en 1986 Desarrollado por el profesor Robert Hecht- Nielsen en 1986 Basada en las redes de Kohonen y la estructura outstar de Grossberg. Basada en las redes de Kohonen y la estructura outstar de Grossberg. Jonathan Lizano A63183 Aarón Víquez A66283

6 6 Terminología (1) Instar: es un elemento de proceso, conformada por una unidad de la capa oculta y todas las de la capa de entrada. Instar: es un elemento de proceso, conformada por una unidad de la capa oculta y todas las de la capa de entrada. Jonathan Lizano A63183 Aarón Víquez A66283 [1] pp 219

7 7 Terminología (2) Red de competencia: un grupo de instars que compiten entre sí Red de competencia: un grupo de instars que compiten entre sí Jonathan Lizano A63183 Aarón Víquez A66283 [1] pp 225

8 8 Terminología (3) Outstar: todas las unidades de salida más una única unidad de capa oculta de la CPN Outstar: todas las unidades de salida más una única unidad de capa oculta de la CPN Jonathan Lizano A63183 Aarón Víquez A66283 [1] pp 231

9 9 Estructura de la red (1) De tipo híbrida(competencia y supervisada) De tipo híbrida(competencia y supervisada) De pares de vectores (x 1, y 1 ) … (x n, y n ) la red aprende a asociar vectores x con uno de salida y. De pares de vectores (x 1, y 1 ) … (x n, y n ) la red aprende a asociar vectores x con uno de salida y. Función: Y = f(x). Función: Y = f(x). En algunos casos la inversa x = f -1 (y) En algunos casos la inversa x = f -1 (y) Jonathan Lizano A63183 Aarón Víquez A66283

10 10 Estructura de la red (2) [1] pp 214 Jonathan Lizano A63183 Aarón Víquez A66283

11 11 Estructura de la red (3) Las CPN poseen 3 bloques básicos: Las CPN poseen 3 bloques básicos: Capa de entrada Capa de entrada Capa oculta (red competitiva) Capa oculta (red competitiva) Capa de salida (outstar) Capa de salida (outstar) [1] pp 243 Jonathan Lizano A63183 Aarón Víquez A66283

12 12 Capa de entrada (1) Se normalizan los vectores. Se normalizan los vectores. Usar tramas de reflectancia. Usar tramas de reflectancia. Jonathan Lizano A63183 Aarón Víquez A66283 [1] pp 216

13 13 Capa de entrada (2) Centro activo, periferia inactiva Centro activo, periferia inactiva Condición de equilibrio Condición de equilibrio Jonathan Lizano A63183 Aarón Víquez A66283

14 14 Capa oculta (1) Cada instar representa una clase, por lo que se entrena con los vectores asociados a ella. Cada instar representa una clase, por lo que se entrena con los vectores asociados a ella. Su función de salida esta representada en función del tiempo según la siguiente fórmula: Su función de salida esta representada en función del tiempo según la siguiente fórmula: Jonathan Lizano A63183 Aarón Víquez A66283

15 15 Capa oculta (2) Jonathan Lizano A63183 Aarón Víquez A66283 [1] pp 221

16 16 Capa oculta (3) Las instar compiten en la modalidad el ganador se lo lleva todo Las instar compiten en la modalidad el ganador se lo lleva todo La señal con mayor intensidad será la que se mantenga positiva y envíe respuesta a la capa de salida La señal con mayor intensidad será la que se mantenga positiva y envíe respuesta a la capa de salida Jonathan Lizano A63183 Aarón Víquez A66283

17 17 Capa oculta (4) Entrenamiento Entrenamiento 1.Seleccionar aleatoriamente un vector de entrada 2.Normalizar entrada y aplicar a la red competitiva 3.Determinar ganador 4.Actualizar pesos de la unidad ganadora 5.Repetir 1-4 para todos los ejs de entrenamiento 6.Repetir 5 hasta que todos estén bien clasificados 7.Se prueba la red Jonathan Lizano A63183 Aarón Víquez A66283

18 18 Capa de salida (1) La red posee tantas outstars como unidades hayan en la capa oculta. La red posee tantas outstars como unidades hayan en la capa oculta. [1] pp 231 Jonathan Lizano A63183 Aarón Víquez A66283

19 19 Capa de salida (2) La outstar posee un funcionamiento similar al aprendizaje de Hebb. La outstar posee un funcionamiento similar al aprendizaje de Hebb. [1] pp 233 Jonathan Lizano A63183 Aarón Víquez A66283

20 20 Capa de salida (3) Jonathan Lizano A63183 Aarón Víquez A66283

21 21 Consideraciones (1) Inicialización de pesos Inicialización de pesos Jonathan Lizano A63183 Aarón Víquez A66283 [1] pp 240

22 22 Consideraciones (2) Vector pegado Vector pegado α grande -> pequeño α grande -> pequeño Β pequeño -> grande Β pequeño -> grande [1] pp 241 Jonathan Lizano A63183 Aarón Víquez A66283

23 23 Ejemplo (1) [1] pp 259 Jonathan Lizano A63183 Aarón Víquez A66283

24 24 Ejemplo (2) y' k = w ki z i + w kj z j y' k = w ki z i + w kj z j z i + z j = 1 z i + z j = 1 [1] pp 247 Jonathan Lizano A63183 Aarón Víquez A66283

25 25 Ambientes de programación Estructurados. Estructurados. Orientado a objetos. Orientado a objetos. Jonathan Lizano A63183 Aarón Víquez A66283

26 26 Áreas de aplicación Astronomía. Astronomía. Química Química Reconocimiento de patrones Reconocimiento de patrones Aproximación de funciones Aproximación de funciones Análisis estadístico Análisis estadístico Compresión de datos Compresión de datos Jonathan Lizano A63183 Aarón Víquez A66283

27 27 Evaluación Al presentar dos tipos diferentes de aprendizaje la red tiende a entrenarse más rápidamente que la mayoría de las redes. Al presentar dos tipos diferentes de aprendizaje la red tiende a entrenarse más rápidamente que la mayoría de las redes. Permite crear prototipos de otras aplicaciones facilmente y en corto tiempo. Permite crear prototipos de otras aplicaciones facilmente y en corto tiempo. En algunas aplicaciones se pierde presición. En algunas aplicaciones se pierde presición. Jonathan Lizano A63183 Aarón Víquez A66283

28 28 Evaluación Como por ejemplo el problema de calcular la paridad de un número, para la CPN es muy difícil distinguir entre vectores en donde solamente un bit es la diferencia. Como por ejemplo el problema de calcular la paridad de un número, para la CPN es muy difícil distinguir entre vectores en donde solamente un bit es la diferencia. Una red de propagación hacia atrás lo resuelve con facilidad. Una red de propagación hacia atrás lo resuelve con facilidad. Jonathan Lizano A63183 Aarón Víquez A66283

29 29 Conclusiones Al ser un tipo híbrido converge más rápido a una solución Al ser un tipo híbrido converge más rápido a una solución Se enfocan en problemas de clasificación. Se enfocan en problemas de clasificación. Si los cambios en las clases no son muy pequeños proveen grandes ventajas. Si los cambios en las clases no son muy pequeños proveen grandes ventajas. Jonathan Lizano A63183 Aarón Víquez A66283

30 30 Referencias [1] Freeman, James and Shapura, David, Neural Networks Algorithms, applications, and Programming Techniques 1992 Addison- Wesley. [1] Freeman, James and Shapura, David, Neural Networks Algorithms, applications, and Programming Techniques 1992 Addison- Wesley. [2] R.M. Hirstev, The ANN Book 1998, 1era Edición. [2] R.M. Hirstev, The ANN Book 1998, 1era Edición. [3] Robert Hecht-Nielsen. Applications of Counterpropagation networks. Neural Networks, 1(2): , 1988 [3] Robert Hecht-Nielsen. Applications of Counterpropagation networks. Neural Networks, 1(2): , 1988 Jonathan Lizano A63183 Aarón Víquez A66283


Descargar ppt "1 Jonathan Lizano A63183 Aarón Víquez A66283 Red Neuronal de Contrapropagación."

Presentaciones similares


Anuncios Google