Redes neuronales 1 José Edinson Aedo Cobo Depto. de Ing. Electrónica. E-mail: joseaedo@udea.edu.co

En el último siglo ha existido un interés creciente por la Introducción “Un sistema inteligente” sería aquel que posee una habilidad parecida al ser humano para resolver problemas dentro de un dominio específico, tiene capacidad para adaptarse, aprender en un ambiente cambiante y explicar como se toman las decisiones ( o acciones). En el último siglo ha existido un interés creciente por la construcción de máquinas inteligentes. 1947, Se definió la Cibernética ( Norbert Wiener) “un estudio unificado del control y de la comunicación en los animales y las máquinas”.

1947, Se definió la Cibernética ( Norbert Wiener) Introducción 1947, Se definió la Cibernética ( Norbert Wiener) “un estudio unificado del control y de la comunicación en los animales y las máquinas”. La época de la cibernética coincide con el desarrollo de varios paradigmas: - Evolución de los computadores analógicos a digitales. - Teoría formal de la computación ( Alan Turing). - Computadora basada en lógica digital: John Von Neumann - Primeros modelos del neuron: McCulloch-Pitts (1943), perceptron (1957) - La inteligencia artificial (IA), 1960, John McCarthy

Inteligencia Artificial: Introducción Inteligencia Artificial: “Buscaban definir los métodos algoritmos capaces de hacer pensar a los computadores” Hubo una gran efervescencia en la década del 60, debido A los resultados se pensaba que “conseguiría construir máquinas realmente inteligentes”. Hubo un declive de las otras áreas: la cibernética y la redes neuronales.

1969, Marvin Minsky, mostró mediante un estudio riguroso Introducción 1969, Marvin Minsky, mostró mediante un estudio riguroso formal, limitaciones en los perceptrones para resolver algunos problemas. Esto causó una perdida de confianza en el área de redes neuronales. La Inteligencia Artificial: El ser humano utiliza el lenguaje como medio para razonar y sacar conclusiones. La IA busca de imitar el comportamiento inteligente, tratando de expresarlo en formas de lenguaje o reglas Simbólicas”

La Inteligencia Artificial: Introducción La Inteligencia Artificial: “La IA manipula simbolos basandose en la suposición que el Comportamiento inteligente puede ser almacenado en bases de conocimiento estructuradas simbólicamente”. El mayor desarrollo de la IA son los sistemas expertos o Sistemas basados en conocimiento: “Son complejos programas (software) en los que se codifica el conocimiento de expertos en una materia muy concreta en forma de reglas de decisión”. - La IA se sustenta en el binomio: lógica boolena-máquina de Von Neumann.

Estructura de un sistema experto Máquina de Inferencia Pregunta Facilidad de Respuesta Interface de Usuario Explicación Base de Datos Global Usuario (Novato) KB Hechos Reglas Ingeniero de Conocimiento Adquisición de Conocimiento Computador Humano Host Experto etc... Estructura de un sistema experto

Algunas definiciones de IA: Introducción Algunas definiciones de IA: “AI is the study of agents that exist in an evironment and perceive and act”. (Russell, Norvig, artificial Intelligence: a Modern approach, 1995). “Is the art of making computer do smart things”. (Waldrop,87). “Ai is a programming style, where programs operate on data according to rules in order to accomplish goals” (Tylor, 88).

Algunas definiciones de IA: Introducción Algunas definiciones de IA: “AI is the acitivitiy of providing such machines as computers with the ability to display behavior that would be regarded as intelligent if were observed in humans”, (R. McLeod, 79). La inteligencia computacional (soft computing) tiene Objetivos similares a la IA, pero ha puesto más énfasis en metodologías inspiradas biológicamente: modelado de Cerebro, algoritmos evolutivos, lógica difusa).

El curso tendrá tres componentes formales: Las redes neuronales. Introducción El curso tendrá tres componentes formales: Las redes neuronales. Sistemas difusos algoritmos genéticos.

Introducción a la redes neuronales Desde le punto de vista físico en el cerebro el procesamiento de la información se efectúa a través de la auto-organización de millones de procesadores elementales. Estudiaremos en este módulo: La estructura de la neurona biológica básica. Los modelos de las neuronas artificiales simples. Arquitecturas en red (de neuronas). Aplicaciones prácticas de las redes neuronales.

Introducción a la redes neuronales Cerebro Computador . Velocidad de procesa. 10-2s (100hz) 3 Ghz Estilo de procesamiento paralelo Secuencial No. Procesadores 1011-1012 pocos Conexiones 10.000/proce. pocas Tolerancia a fallas Amplia nula Alma. del conocimiento distribuido Centralizado Tipo de control Auto-organizado centralizado

Introducción a la redes neuronales La estructura de la neurona biológica básica Soma: 10-80 micrómetros. Axón: 100 micras – a metros (“nervios”) soma dendritas axón

Introducción a la redes neuronales Tipos de neuronas: Interneuronas, envían información a otras neuronas. Motoras: entregan la información directamente a los músculos. Receptoras o sensoras: reciben la información directamente del medio externo.

Introducción a la redes neuronales Transmisión de la información nerviosa: El potencial en la soma se controla por concentraciones de iones tales como: Na+, K+, Ca2+ y P2- El voltaje de reposo de la neurona es de aprox. 60 mV. La soma integras (suma) las excitaciones que entran por las dendritas. Cuando pasa el umbral de -40 mV se genera el potencial de acción. típicamente la frecuencia de disparo oscila entre 1-100P/s

Introducción a la redes neuronales Estructura de una rede neuronal: Imitan la estructura de las rede neuronales biológicas. Es un sistema que procesa la información de forma paralela, distribuida y es adaptativo. Son redundante y tolerantes a fallas.

Introducción a la redes neuronales Estructura de una rede neuronal: Un sistema neuronal o conexionista (Rumelhart y J. L. McClelland) está compuesto por los siguientes elementos: Una arquitectura ( un patrón de conectividad). Un conjunto de procesadores elementales (neuronas). Una dinámica de activaciones. Una dinámica de aprendizaje (regla de aprendizaje). Un entorno en el cual opera.

Introducción a la redes neuronales Modelo de la neurona artificial: Una neurona artificial está constituida de los siguientes elementos: Un conjunto de entradas: xj(t). Pesos sinápticos: wij , representando la intensidad de interacción entre la neurona pre y post sináptica. Una regla de propagación: hi= (wij, xj(t)). Una función de activación: fi(ai(t-1), hi(t)), de tal forma que el estado de activación actual está dado por: ai(t) = fi(ai(t-1), hi(t)),

Introducción a la redes neuronales Modelo de la neurona artificial: La función de salida: : Fi(ai(t)), con la cual se calcula la salida real del neurón: yi(t) = Fi(ai(t)). De esta forma la salida del neurón se puede calcular: yi(t) = Fi(fi [ai(t-1), (wij, xj(t))] )

Introducción a la redes neuronales Neuron de McCulloch - Pitts xj hi ai yi

Redes neuronales Red de una sola capa (hacia adelante)  Red multicapa (hacia adelante)  capa de capas capa de entrada escondidas salida Red recurrente de una sola capa Red recurrente multicapa  

. . . . . . Pistola1, pistola2? pistola1 Reconocedor Neuronal Entrada Salida . . . . . . Pistola1, pistola2? pistola1 Reconocedor Neuronal de Sonidos Conocimiento

Sistema experto ( área de inteligencia artificial) Dispositivos Sensores (Visión) Percepciones Generador de Tareas Máquina de Aprendizaje Procesador de Lenguaje Natural Inferencia (Razonamiento) Manejador de Conocimiento Base de Conocimiento Manejador de Datos Planeación Dispositivos Mecánicos Acciones