Universidad Autónoma de Cd Juárez Redes neuronales y la Inteligencia Computacional Dr.Youness El Hamzaoui

Red Neuronal Artificiales

Arquitectura de una red neuronal artificial IWij LWij E(x1) S(1) E(x2) Salida Entrada Interna Sij = f1( IWij*Ej + b1) S(1) = f2( LWij*Sij+b2)

Herramientas Practicas de la Inteligencia Computacional Redes Neuronales Artificiales (RNA) Presentación de una simple neurona (Demuth y Beale, 2003) Modelo RNA multicapas (Demuth y Beale, 2003)

Busca minimizar donde L : Cantidad de Patrones N : Cantidad de neuronas de entrada < > representa promedio

La ecuación será de la forma y = w1 x Ejemplo: Aproximar la ecuación de la recta que pasa por (-1,2), (0,0), (2,-4). La ecuación será de la forma y = w1 x Note que y es la respuesta del asociador lineal. Xk Yk

Se busca minimizar Derivando:

La rta.del asociador lineal será y = -2x. w1 = -4:0.5:1; ptos = 20*ones(size(w1))+20*w1+5*w1.^2; plot(w1,ptos)

Ejemplo 2: Aproximar la ecuación de la recta que pasa por (2,3), (1,1), (-1,-3). La respuesta del asociador lineal será de la forma Se busca minimizar

Se busca minimizar

La salida del asociador lineal será: y = 2x-1

Asociador Lineal Donde

Para minimizar el error

Ejemplo 2: Aproximar la ecuación de la recta que pasa por (2,3), (1,1), (-1,-3).

En MatLab >> R=[6 2;2 3]; >> p=[10;1]; >> W=R\p W = 2.0000 -1.0000

Gradiente Sea y(x) una función derivable de la cual se busca obtener el mínimo. La pendiente de una función en un punto es el gradiente de la tangente a la curva en ese punto. Si x es chico, y reflejará en la derivada un cambio similar a y en y(x).

tomando donde >0 y lo suficientemente chico como para que y y de esta forma y <0. Esto es lo que se conoce como la técnica del gradiente descendente.

Técnica del gradiente

Técnica del gradiente se utiliza veamos que

Técnica del gradiente

Método iterativo Aplicar el vector de entrada, Calcular el error cuadrático usando el w actual Calcular el gradiente utilizando Actualizar el vector de pesos Repetir todo hasta que el error sea aceptable

Gráfico de la superficie de error >> t = [+0.0 +0.0 +.97 +.99 +.01 +.03 +1.0 +1.0]; >> wv = -1:.1:1; bv = -2.5:.25:2.5; >> es = errsurf(p,t,wv,bv,'purelin'); >> plotes(wv,bv,es,[60 30])

>> w=0.5; b=1; >> h = plotep(w,b,SSE); >> w=0; b=0; >> a = purelin(w*p,b); >> e = t-a; >> SSE = sumsqr(e); >> h = plotep(w,b,SSE,h); >> w=0.5; b=1; >> a = purelin(w*p,b); >> e = t-a; >> SSE = sumsqr(e);

Valores iniciales de w y b subplot(1,2,2); % Grafico de la derecha %------- esto escribe CLICK AQUI centrado --------- x = get(gca,'xlim'); % [Xmin Xmax] y = get(gca,'ylim'); % [Ymin Ymax] aux = text((x(2)-x(1))*0.5,(y(2)-y(1))*0.5,'*CLICK AQUI*'); set(aux,'horizontal','center'); % centra el texto respecto del pto indicado arriba set(aux,'fontweight','bold'); % negrita set(aux,'color',[0 0 0]); % color negro %------------------------------------------------- [W, B] = ginput(1); delete(aux) % borra el texto CLICK AQUÍ purelin(w*p,b); e = t-a; SSE = sumsqr(e); h = plotep(w,b,SSE,h);

Practica Dados los siguientes conjuntos de puntos del plano B = {(3,1), (3,3), (2,4), (2,5)} Indique cual sería la red neuronal formada por un único Adaline que, dado uno de estos puntos, permita conocer a qué conjunto pertenece. Representar gráficamente la solución propuesta.

A = {(2,2), (1,0), (0,1), (-1,1)} B = {(3,1), (3,3), (2,4), (2,5)}

Neurona General

Función de Salida LINEAL mediante MatLab n = -4:0.1:4; a = purelin(n); plot(n,a)

Función de Salida SIGMOIDE  (0,1) mediante MatLab n = -4:0.1:4; a = logsig(n); plot(n,a)

Función de Salida SIGMOIDE  (-1,1) desde MatLab n = -4:0.1:4; a = Tansig(n); plot(n,a)

¿Cómo sería la derivada del error si la neurona no es lineal? Practicas

Método iterativo Aplicar el vector de entrada, Calcular el error cuadrático usando el w actual Calcular el gradiente utilizando Actualizar el vector de pesos Repetir todo hasta que el error sea aceptable

APLICACIÓN a) Base de datos b) Clasificación de base de datos c) Normalización de entradas d) Aprendizaje e) Validación

Código mediante lenguaje MATLAB

Definición 1 La Inteligencia Computacional combina elementos de aprendizaje, adaptación, evolución y Lógica difusa para crear programas que son, en cierta manera, inteligentes. La investigación en Inteligencia Computacional no rechaza los métodos estadísticos, pero muy a menudo aporta una vista complementaria. Las Redes Neuronales son una rama de la inteligencia computacional muy relacionada con el aprendizaje automático.

Definición 2 Es una disciplina que busca dar claridad de acción ante situaciones de decisión confusas; esta disciplina posee herramientas las cuales sirven para entender claramente la situación de decisión, extienden la memoria y la capacidad cognoscitiva, ayudan a superar la incertidumbre encontrando la mejor alternativa.

Definición 3 Definición 4 “Sistemas interactivos basados en computadora que auxilian a quienes toman decisiones en la utilización de datos modelos para resolver problemas no estructurados” . Definición 4 "Son Sistemas de Apoyo a la Decisión acoplan los recursos intelectuales de los individuos con las capacidades de las computadoras para mejorar la calidad de las decisiones de quienes contienden con problemas semiestructurados”

Beneficios percibidos atribuibles al uso de la Inteligencia Computacional son: Alta calidad en las decisiones Comunicación mejorada Reducción de costos Incremento en la productividad Ahorro de tiempo - Mayor satisfacción de empleados y clientes

Sistemas basados en Inteligencia Computacional (IC) Las compañías se apoyan en los expertos para tomar una decisión compleja o para resolver un problema (conocimiento y experiencia). Entre menos estructurada sea la situación, más especializada (y cara) es la recomendación. Los sistemas expertos intentan hacer una mímica de los expertos humanos. Un sistema experto (SE) es un paquete de cómputo para la toma de decisiones o resolución de problemas en un área de problemas bien definida.

Sistemas basados en Inteligencia Computacional (IC) Sistemas Expertos Experto Experticia Usuarios Recomendaciones Consultas

Inteligencia Artificial (IA) John McCarthy lo define como métodos algorítmicos capaces de hacer pensar a las computadoras. La IA pretenden modelar el comportamiento inteligente, principalmente humano, con la intención de desarrollar sistemas con características y capacidades inteligentes similares.

La IA modela el comportamiento inteligente

La IA modela el comportamiento inteligente Inteligencia Computacional Redes Neuronales Lógica Difusa Algoritmos Evolutivos Sistema Inmune Artificial

Optimización Inteligente Los Algoritmos Genéticos (AG) son métodos adaptativos que pueden usarse para resolver problemas de búsqueda y optimización. Existe la posibilidad de planear la arquitectura de un AG para que sus funciones de convergencia y control, así como sus operadores genéticos estén basados en Distribución de Probabilidad y Lógica Difusa.

Ventajas del Algoritmo Genético Resuelve problemas no estructurados Variables combinatorias Optimización multicriterio Incertidumbre

Fases de la Inteligencia Computacional Fase de Inteligencia Fase de Diseño Fase de Opción Objetivos Organizacionales Procedimientos de búsqueda y Examen Colección de datos Identificación de problemas Clasificación de problemas Establecimiento del problema Formular un modelo (suposiciones) Establecer criterios de opción Buscar alternativas Predecir y medir los resultados Solución al modelo Análisis de sensibilidad Selección de la mejor alternativa Plan para implementación (acción) Diseño de un sistema de control REALIDAD Implementación de la solución Verificación, Prueba de la Solución Propuesta Validación del Modelo Examen EXITO FALLA Fases de la Inteligencia Computacional

Herramientas Practicas de la Inteligencia Computacional Redes Neuronales Artificiales inversa (RNAi) Conjuntos de pesos y bias [Hernandez et al, 2009]

Herramientas Practicas de la Inteligencia Computacional Red neuro difusa (TSK) Capa de entrada: 11882 datos Capa oculta 1: Cada nodo en esta capa es un nodo cuadrado con un nodo función Función de pertenecía

Herramientas Practicas de la Inteligencia Computacional Red neuro difusa Capa oculta 2: Fuerzas de disparos de las reglas Capa oculta 3: Fuerzas de disparos normalizadas Capa oculta 4: Consecuente TSK Capa de salida

Herramientas Practicas de la Inteligencia Computacional Algoritmo genético (AG) [Wang et al. 1996]

Herramientas Practicas de la Inteligencia Computacional Enjambre de partículas [Kennedy y Eberhart 1995]

Problema 1 Modelación, simulación de la DQO y mejoramiento del proceso durante la degradación de herbicidas por medio de RNA y RNAi

sistemas neuro difusos Problema 2 Modelación y simulación del COP para el proceso del purificador de agua integrado al transformador térmico por medio de sistemas neuro difusos

Problema 2 Transformador térmico por absorción

Otras Aplicaciones

Conclusiones generales 1. La inteligencia computacional, si bien limitada, por ahora, en lo que se refiere a creatividad y sentido común, puede hacer uso de una capacidad que no poseen las criaturas humanas: la inteligencia evolutiva. 2. Si bien ninguno de los paradigmas puros de softbots inteligentes cumple estrictamente las condiciones establecidas por la definición de Sistema Inteligente, puede afirmarse que todos ellos poseen, al menos, una característica que la diferencia claramente de los no inteligentes, por ejemplo, de los Sistemas Automáticos. 3. La complementación aprovechada por los Sistemas Híbridos actuales abre una perspectiva muy grande de mejoramiento en el comportamiento de los mismos, muy especialmente, cuando se puedan instalar en las futuras plataformas de hardware, como las que prometen la computación cuántica o la computación basada en ADN, entre otras.

Basado en todo lo desarrollado y, resumido, en las conclusiones anteriores, se está en condiciones de responder a la pregunta planteada: Son INTELIGENTES… los SISTEMAS INTELIGENTES ?

Referencias Demuth H., Beale M., Eds., Neural Network Toolbox for Matlab-User’s Guide Version 3, MathWorks, MA, 1998. Hernández J.A., Bassam A., Siqueiros J., Romero D.J., Optimum operating conditions for a water purification process integrated to a heat transformer with energy recycling using neural networks inverse, Renewable Energy, 34(2009) 1084-1091. Nelder J. A., Mead R., A simplex method for function optimization, Computer Journal, 07 (1965) 308-313. Siqueiros J., Romero R.J., Increased COP for heat transformer in water purification systems, Part I: temperature increase for heat source, Appliel Thermal Engineering, 27 (2007) 1043–1053. Verma S. P., Andaverde J, Santoyo E., Application of the error propagation theory in estimates of static formation temperatures in geothermal and petroleum boreholes, Heat Transfer in Components and Systems for Sustainable Energy Technologies: Heat-SET 5–7 April 2005, Grenoble, France, 47 pp. 3659-3671. Wang C., Quan H., Xu X., Optimal design of multiproduct batch chemical process using genetic algorithm. Industrial engineering and chemistry research, 1996, 35, 10, 3560-6.

¡MUCHAS GRACIAS POR SU ASISTENCIA Y ATENCIÓN! THANK YOU VERY MUCH MERCI BEAUCOUP! شكرا جزيلا