La descarga está en progreso. Por favor, espere

La descarga está en progreso. Por favor, espere

1/67 Mg. Samuel Oporto Díaz Lima, enero 2006 Redes Neuronales Artificiales.

Presentaciones similares


Presentación del tema: "1/67 Mg. Samuel Oporto Díaz Lima, enero 2006 Redes Neuronales Artificiales."— Transcripción de la presentación:

1 1/67 Mg. Samuel Oporto Díaz Lima, enero 2006 Redes Neuronales Artificiales

2 2/67 Tabla de Contenido 1.ObjetivosObjetivos 2.Inteligencia NaturalInteligencia Natural 3.Inteligencia ArtificialInteligencia Artificial 4.Redes NeuronalesRedes Neuronales 5.AplicacionesAplicaciones 6.Tipos de Redes NeuronalesTipos de Redes Neuronales Redes de Nivel Simple Redes de Nivel Múltiple

3 3/67 Objetivos Exponer los aspectos básicos de la inteligencia natural. Situar la Inteligencia artificial como una disciplina orientada a la emulación de la inteligencia natural. Presentar a las redes neuronales como una técnica inspirada en las neuronas naturales. Presentar el modelo matemático de las redes neuronales. Exponer las redes neuronales de nivel simple y de múltiples nivel.

4 4/67 INTELIGENCIA NATURAL

5 5/67 ¿Inteligencia? Es la facultad que tienen las personas de conocer, analizar, comprender situaciones. Es un conjunto de habilidades, destrezas y experiencias sobre cierto dominio. Es la capacidad de resolver problemas. ¿tienen inteligencia los animales? ¿el libre albedrío es inteligencia? ¿la conciencia de si mismo es inteligencia?

6 6/67 Aspectos de la Inteligencia Natural 1.Percepción y Aprendizaje 2.Memoria y Asociación 3.Comunicación 4.Solución de problemas 5.Razonamiento 6.El pensamiento abstracto. 7.Conciencia 8.Imaginación o Creatividad

7 7/67 ¿? ¿Donde se genera la inteligencia? ¿Donde se almacenan los datos? ¿Cómo se procesa la información? ¿Cómo se inicia una nueva acción? ¿Cómo se inicia un nuevo pensamiento?

8 8/67 Cerebro Humano Neuronas (procesadores) Poder desconocido 1000 – conecciones por neurona Capacidad basada en las conexiones. Cada neurona es muy compleja. Almacenamiento redundante. No binario, no estable y no síncrono.

9 9/67 Neuronas ¿Cómo funciona ? Color Sabor Olor Sonido Tersura información acciones Conexiones

10 10/67 Unidad de Procesamiento: La Neurona Cuerpo Dendritas Axon Señal Sinapsis (Información)

11 11/67 Neurona en Reposo

12 12/67 Potencial de acción

13 13/67 Propagación del potencial de acción

14 14/67 Sinapis Región donde las neuronas entran en contacto –Los impulsos son transmitidos desde el axón de una neurona hacia las dentritas de otra neurona. –Efecto excitatorio: estimula la acción de la neurona. –Efecto inhibitorio: efecto contrario axón dendrita

15 15/67 Conexiones del Sistema Nervioso. GENÉTICO. El niño nace con un conjunto de conexiones por defecto (definidas genéticamente) EXPERIENCIA. Nuevas conexiones se crean en el proceso de aprendizaje. Las conexiones se refuerzan con la repetición. Las conexiones se refuerzan cuando se crean redes de resonancia.

16 16/67 adaptabilidad aprendizaje continuo distribución del procesamiento y del almacenamiento alta redundancia plasticidad (creación/modificación de sinapsis). tolerante a fallas 10 a 100 billones de neuronas, cada una conectado a otras neuronas Los humanos pierden prox neuronas por dia. Características del Sistema Nervioso

17 17/67 Aprendizaje Patrones de actividad. Ésta forma de aprendizaje es la que explica la memoria de corto plazo. Cambios físicos y químicos en las neuronas. En este aprendizaje se modifican las conexiones entre unidades haciendo que grupos de neuronas se vuelvan más o menos eficientes para excitar o inhibir a otras neuronas. Explica la memoria de largo plazo. Creación de nuevas conexiones. En este aprendizaje se crean nuevas conexiones.

18 18/67 INTELIGENCIA ARTIFICIAL

19 19/67 Inteligencia Artificial Es una ciencia que intenta la creación de programas para máquinas que imiten el comportamiento y la comprensión humana, que sea capaz de aprender, reconocer y pensar. Se orienta a la construcción de entidades inteligentes como a su comprensión. Usa una serie de técnicas.

20 20/67 Técnicas de la IA Sistemas Basados en Conocimiento. Visión Computacional Procesamiento de Voz y Lenguaje Natural Lógica Difusa Redes Neuronales Computación Evolutiva Sistemas Multiagente Robótica Aprendizaje Mecánico. Técnicas Heurísticas (recocido simulado)

21 21/67 Modelos Inspirados en la Naturaleza Neuronas Red Neuronal Evolución Natural Algoritmo genético Experiencia Sistema Experto Razonamiento Lógica Difusa Enfriamiento de metales Recocido Simulado Hormigas Colonia de Hormigas

22 22/67 REDES NEURONALES

23 23/67 Redes Neuronales. Intento de producir sistemas de aprendizaje inspirados en la naturaleza (basado en modelos abstratos de cómo pensamos y cómo funciona el cerebro) Modelo matemático inspirado en el funcionamientos de las neuronas biológicas Conformado por varias unidades de procesamiento (neuronas) interligadas por conexiones (sinapsis) Eficiente donde los métodos tradicionales son considerados inadecuados. El aprendizaje se logra en la actualización de esos pesos.

24 24/67 Red Neuronal Neuronas intermedias Neuronas de salída Neuronas de Entrada Conexiones Arquitectura

25 25/67 Elemento Procesador Entrada / Función de Transferencia / Salida Señal Entrada Salida f elemento procesador

26 26/67 Elemento Procesador Entrada / Función de Transferencia / Salida

27 27/67 Elemento Procesador n k 1 u X1 Xk Xn W1u Wku Wnu Entrada Neta u = Xi Wiu Yu = f (Entrada Neta u ) Yu = f ( Xi Wiu ) Yu

28 28/67 Función de Transferencia n k 1 u X1 Xk Xn W1u Wku Wnu Entrada Neta u = Xi Wiu Yu = f (Entrada Neta u ) Función de Activación o Transferencia Yu = f ( Xi Wiu ) Yu

29 Entrada Neta u = Xi Wiu y = f ( Xi Wiu ) Elemento Procesador

30 30/67 Entrada Neta u = Xi Wiu y = f ( Xi Wiu ) Elemento Procesador

31 31/67 Valores de entrada / salida Las señales de e/s de una RNA son generalmente números reales Estos números deben encontrarse dentro de un intervalo típicamente entre [0,1] o [–1,1] Técnica de codificación mas simples es la binaria

32 32/67 Conexiones Semejantes a la sinapsis. Las unidades son conectadas a través de conexiones Codifican el conocimiento de la red –conexiones poseen valores asociados (pesos) Tipos de conexiones –excitatorias w ij > 0 –inhibitorias w ij < 0 –inexistentes w ij = 0 wij

33 33/67 Aprendizaje ¿Cómo aprenden? Depende del tipo de red

34 34/67 APLICACIONES

35 35/67 Aplicaciones Se usan para la clasificación y reconocimiento de patrones. Problemas donde es importante el patrón más que los datos exactos. Aplicaciones: 1.Clasificación. 2.Predicción 3.Clustering 4.Aproximación de curvas 5.Optimización. 6.Reconocimiento de patrones.

36 36/67 Clasificación

37 37/67 Predicción

38 38/67 Clustering

39 39/67 Aproximación de curvas

40 40/67 Optimización

41 41/67 TIPOS DE REDES NEURONALES

42 42/67 Topologia o Arquitectura de RN Clasificación de RN por el tipo de sus Conexiones A) Redes Feedforward (No recurrentes) Conexiones unidireccionales: Una Capa: Perceptron, Adaline (ADAptive LInear Neuron), Multicapa: MLP

43 43/67 B) Redes Feedback (recurrentes) Presenta conexiones de Retorno Topologia o Arquitectura de RN Clasificación de RN por el tipo de sus Conexiones

44 44/67 Tipos de Aprendizaje Artificial Aprendizaje Supervizado Aprendizaje No Supervizado ?

45 45/67 Aprendizaje Supervizado Se logra comparando la salida de la red con la respuesta correcta ya conocida por el MAESTRO. La diferencia de esta comparación permite ajustar los pesos de las conexiones entre sus neuronas, para buscar una salida mas aproximada a la correcta. El aprendizaje se da a través de un proceso iterativo de ajuste aplicado a sus pesos sinápticos

46 46/67 Aprendizaje No Supervizado No requiere influencia externa para ajustar sus pesos de las conexiones entre sus neuronas. No recibe ninguna información del entorno que le indique si la salida generada respecto a una determinada entrada es o no correcta. Por ello se dice que estas RN son capaces de Autoorganizarce.

47 47/67 Redes de nivel simple Redes de Multiple nivel Redes recurrentes Tipos de Redes Neuronales

48 48/67 REDES DE NIVEL SIMPLE

49 49/67 Perceptrón Separa espacio con hiperplanos y = f ( w 1 u 1 + w 2 u w n u n ), f(s) = { 1 si s 0, 0 si s<0 } Puede incluir offset w 0. Importante históricamente –estudiado muy detalladamente (Minsky y Papert 69) Es un clasificador lineal en 2 clases. –bueno si patrones linealmente separables –problema XOR w t.u =0 u1u1 u2u2

50 50/67 Perceptrón

51 51/67

52 52/67

53 53/67

54 54/67

55 55/67 Adaline Adaptive Linear Element Estructura: –Como un Perceptrón pero con función lineal a la salida. Permite trabajar con problemas más generales que usando el perceptrón. y=0

56 56/67 Adaline

57 57/67

58 58/67 REDES DE MÚLTIPLE NIVEL

59 59/67 Perceptrón Multicapa Werbos (1972) Red lineal Activaciones dependen: –entradas –activaciones de neuronas precedentes Derivadas ordenadas backpropagation W ij 1 W ij 2 u1u1 u2u2 y1y1 y2y2 W ij 3 u1u1 u2u2 y1y1 y2y

60 60/67 Perceptrón Multicapa w11=1 w12=1 w21=1 w22=1 w31=1 w32=-1.5 b1=0.5 b2=1.5 b3=0.5

61 61/67 Retropropagación Procedimiento para encontrar el vector gradiente de una función error asociada a la salida de la red con respecto a los parámetros de la misma El nombre backpropagation surge pues el cálculo se hace en el sentido inverso de la red, propagándose desde los nodos de salida hacia los nodos de entrada Esto permite poder aplicar a posteriori alguno de los muchos métodos de optimización con gradiente para obtener el comportamiento deseado de la red

62 62/67 Retropropagación f() entradas Pesos k = capa sumatoria constante b función de transferencia resultado net =o k (n) salida calculada y k (n) x 1 (n) w k1 (n) x 2 (n) x 3 (n) w k2 (n) w k3 (n) e k (n) = d k (n) – y k (n) salida deseada d k (n) e k (n)

63 63/67 Función de transferencia

64 64/67 Aprendizaje entrada neta a i j i salida de i error de la salida k error total regla de aprendizaje η: velocidad de aprendizaje

65 65/67 Regla de Aprendizaje Si j es una unidad de salida Si no

66 66/67 CONCLUSIONES Las redes neuronales se aplican a resolver problemas de reconocimiento de patrones. Las redes neuronales de nivel simple, permiten reconocer patrones donde el espacio puede ser divido en dos por un hiperplano. Las redes neuronales de múltiple nivel pueden reconocer patrones del tipo XOR. El aprendizaje de la red se realiza modificando los pesos de las conexiones. La arquitectura de la red es la disposición de las neuronas (capas y elementos por capa)

67 67/67 PREGUNTAS

68 68/67 Mg. Samuel Oporto Díaz


Descargar ppt "1/67 Mg. Samuel Oporto Díaz Lima, enero 2006 Redes Neuronales Artificiales."

Presentaciones similares


Anuncios Google