Redes Neuronales Adaline y Madaline

Presentación del tema: "Redes Neuronales Adaline y Madaline"— Transcripción de la presentación:

1 Redes Neuronales Adaline y Madaline
Isadora Antoniano Villalobos Saúl Murillo Alemán Julio Alvarez Monroy Arturo Garmendia Corona Eduardo Martínez Moreno Ulises Juárez Miranda

2 Introducción Historia
1943 McCulloch y Pitts modelan red neuronal con circuitos eléctricos 1949 Hebb escribe Organizational Behavior 1950’s IBM hace posible simular una red neuronal 1959 Widrow y Hoff desarrollan los modelos ADALINE y MADALINE 1965 Dartmouth Summer Research Project on AI Decepción – 20 años desperdiciados 1982 Hopefield demuestra matemáticamente la viabilidad de las redes neuronales

3 Adaline ADAptive LINear Element

4 Proceso de Aprendizaje
Inicializar pesos (w1, ..., wn) y threshold (w0) Presentar vector de entrada (x1,...,xn) y la salida deseada d(t) Calcular la salida donde Fh(a) = 1 si a>0 y = -1 si a<=0

5 Proceso de Aprendizaje
4. Adaptar los pesos donde 0 < i < n y h es la tasa de aprendizaje 5. Repetir los pasos 2 a 4 hasta que las salidas reales y las deseadas sean iguales para todos los vectores del conjunto de entrenamiento

6 Least Mean Square El error cuadrático para un conjunto de entrenamiento particular es: El error puede reducirse ajustando el peso wi en la dirección del gradiente negativo

7 Least Mean Square El error local será reducido más rápidamente si se ajustan los pesos de acuerdo a la regla delta:

8 Madaline Many ADALINEs (Multiple ADAptive LINear Element)

9 Proceso de Aprendizaje
Inicializar pesos (w1, ..., wn) y threshold (w0) Presentar vector de entrada (x1,...,xn) y la salida deseada dk(t) Calcular la salida donde Fh(a) = 1 si a>0 y = -1 si a<=0 yk(t) es la salida del Adaline k 4. Determinar la salida del Madaline M(t)=Fmayoría(yk(t))

10 Proceso de Aprendizaje
5. Determinar el error y actualizar los pesos Si M(t) = salida deseada no se actualizan de otro modo, los elementos Adaline compiten y se actualiza el ganador donde 0 < i < n y h es la tasa de aprendizaje. c representa al Adaline ganador 6. Repetir los pasos 2 a 5 hasta que las salidas reales y las deseadas sean iguales para todos los vectores del conjunto de entrenamiento

11 Aplicaciones

12 Cancelación de Ruido

13 Cancelación de Ruido (Cont.)

14 Cancelación de la interferencia de 60hz en un ECG

15 Cancelación de la interferencia de 60hz en un ECG

16 Cancelación del ECG Materno durante un ECG Fetal

17 Cancelación del ECG Materno durante un ECG Fetal

18 Cancelación del ECG Materno durante un ECG Fetal