Identificacion con redes neuronales

Presentación del tema: "Identificacion con redes neuronales"— Transcripción de la presentación:

1 Identificacion con redes neuronales
Control Inteligente

2 Contenido Identificación de sistemas con redes neuronales
Modelado de dinámica temporal de las manchas solares

3 Identificación de sistemas con redes neuronales

4 Identificación de sistemas con redes neuronales
Dos categorías: la identificación del modelo directo la identificación del modelo inverso

5 Identificación del modelo directo
Existen dos estructuras de implementación de los esquemas de identificación:  Estructura serie-paralelo Estructura paralelo.

6 Identificación del modelo directo
Línea punteada: identificación serie-paralelo; linea a rayas: identificación paralelo.

7 Identificación del modelo directo
Línea punteada: identificación serie-paralelo; linea a rayas: identificación paralelo.

8 Identificación directa del modelo inverso
Línea punteada: identificación serie-paralelo; linea a rayas: identificación paralelo.

9 Identificación directa del modelo inverso
Línea punteada: identificación serie-paralelo; linea a rayas: identificación paralelo.

10 Identificación directa del modelo inverso
Desventaja: El procedimiento de adaptación de la red neuronal no es “dirigido hacia un objetivo”, Se requieren señales de entrenamiento distribuidas en forma masiva Esto inevitablemente produciría un tiempo de entrenamiento largo.

11 Identificación directa del modelo inverso
Desventaja: Adicionalmente, en el caso de mapeos de sistemas no lineales varios-a-uno, el entrenamiento podría ser difícil, y probablemente conduzca a un modelo inverso erroneo

12 Identificación indirecta del modelo inverso
Dos estructuras: identificación serie-paralelo identificación paralelo.

13 Identificación indirecta del modelo inverso
identificación serie-paralelo; identificación paralelo.

14 Modelado de la dinámica temporal de las manchas solares

15 problema Analizar las variaciones en la actividad de manchas solares
utilizando los datos recogidos por los astrónomos durante casi 300 años de una cantidad denominada número de Wolfer, contenidas en archivo “sunspot.dat” Se pretende modelizar el comportamiento de este sistema mediante una red

16 DATOS PARA LA OBTENCION DEL MODELO

17 Consideraciones previas
Serie temporal con ciclo de 11 años Pocos datos Necesidad de validar el modelo realizar prueba ante nuevas entradas

18 objetivo Dados los registros de numero de manchas solares de los últimos 300 años (sunspot.dat) Crear modelo AR con redes neuronales Que permita predecir el numero de manchas solares en cualquier año

19 El proceso consta fundamentalmente de cuatro pasos:
Preparar el conjunto de datos de entrenamiento. Crear la arquitectura de la RNA. Entrenar la RNA. Simular la respuesta de la red ante entradas nuevas

20 Preparar el conjunto de datos de entrenamiento.
Pre procesado En problemas de modelización con datos obtenidos de sistemas reales, es importante pre procesar dichos datos antes de su utilización Filtrado Redundancias Escalado

21 Preparar el conjunto de datos de entrenamiento.
Escalado (normalización de media y varianza) Es recomendable eliminar la media y escalar todas las señales con la misma varianza. Los datos pueden ser obtenidos de diferentes sistemas físicos, y los de mayor valor pueden ser demasiado dominantes. Además, el escalado acelera el proceso de entrenamiento.

22 Preparar el conjunto de datos de entrenamiento.
Escalado (normalización de media y varianza) El Neural Network Toolbox de Matlab (NNT) ofrece algunas funciones para el preprocesado y postprocesado de datos: [pn,meanp,stdp,tn,meant,stdt] = prestd(p,t)

23 Preparar el conjunto de datos de entrenamiento.
Se va a utilizar las medidas tomadas desde 1700 hasta 1979 de las variaciones de la media anual de actividad solar. Datos Escalizados (sunspot.dat)

24 Preparar el conjunto de datos de entrenamiento.
Los datos desde se tomaran como conjunto de entrenamiento, Los periodos y se utilizarán como conjuntos de validación y test: sun_train.txt (conjunto de entrenamiento) y(1700), y(1701), y(1702),……..y(1920) sun_test1.txt (conjunto de validación) y(1921), y(1922), y(1923),……..y(1955) sun_test2.txt (conjunto de test) y(1955), y(1956), y(1957),……..y(1979)

25 Preparar el conjunto de datos de entrenamiento.
Matrices P y T de entrenamiento

26 Crear la arquitectura de la RNA
Se define una red multicapa feedforward de tres capas con 10 nodos logísticos en la capa oculta y un nodo lineal en la de salida. El algoritmo de entrenamiento será el de “levenberg-Marquardt” Se eligió neuronas lineales en la capa de salida para que la salida pueda tomar cualquier valor.

27 Mejorar la Generalización
problemas más típico en el entrenamiento de las RNA’s: El sobre-entrenamiento la red no es capaz de generalizar correctamente lo aprendido ante nuevas situaciones Este efecto es muy común cuando el número de parámetros de la red es grande con respecto al conjunto de entrenamiento no es sencillo saber cuál es el tamaño de red adecuado para cada problema, hay algunas técnicas que pueden ayudarnos en esta labor.

28 Mejorar la Generalización
Regularización: Esta técnica modifica la función objetivo, que pasa a ser una suma ponderada del MSE (error cuadratico medio)en los datos de entrenamiento con la media de la suma de los cuadrados de los pesos y bias de la red: donde msereg es el error cuadrático medio con regularización. r Factor de estimacion msw es la funcion objetivo

29 Mejorar la Generalización
La dificultad estriba en la correcta elección del parámetro de ponderación γ, ya que si es muy pequeño la red no podrá aprender adecuadamente, y si es demasiado grande no evitaremos el sobreentrenamiento.

30 Mejorar la Generalización
En matlab se dispone de una rutina para determinar el parámetro óptimo basada en la regularización bayesiana denominada ‘trainbr’. característica interesante del algoritmo es que nos permite analizar cuántos parámetros de la red están siendo utilizados de manera efectiva por la red . nos puede orientar acerca del adecuado tamaño de la red para el problema que estemos tratando.

31 Fuentes Jorge Barajas, Faber Montero, Modelización mediante redes neuronales artificiales: dinámica temporal de las manchas solares , trabajo de curso, Control Inteligente, 2008 Xiao-Zhi Gao, Soft computing methods for control and instrumentation. Thesis for the degree of Doctor of Science in Technology. Institute of Intelligent Power Electronics Publications, Espoo, May 1999 Publication 2

32 FIN FIN