1 Sesión Especial basada en la funciones de la Special Session on Real-Parameter Optimization at CEC-05, Edinburgh, UK, 2-5 Sept. 2005 M. Lozano, D. Molina,

Presentación del tema: "1 Sesión Especial basada en la funciones de la Special Session on Real-Parameter Optimization at CEC-05, Edinburgh, UK, 2-5 Sept. 2005 M. Lozano, D. Molina,"— Transcripción de la presentación:

1 1 Sesión Especial basada en la funciones de la Special Session on Real-Parameter Optimization at CEC-05, Edinburgh, UK, 2-5 Sept. 2005 M. Lozano, D. Molina, A.M. Sánchez, F. Herrera

2 2 Sesion 1. MAEB para Problemas de Optimización Continua. I. Algoritmos Genéticos y Algoritmos Distribuidos (Miércoles 11-02-2009, 10:00 – 11:30) T1. Aprendizaje por reforzamiento aplicado al operador de cruce en algoritmos genéticos con codificación real (BLXRL, CIXL2RL, CIXL1RL, SBCRL) Domingo Ortiz, A. de Haro-García, R. del Castillo-Gomariz T2. Algoritmos Genéticos para Codificación Real con Operador de Cruce Híbrido con Múltiples Descendientes: 2BLX0.5-2FR0.5-2PNX3-2SBX0.01 (BFPS) A.M. Sánchez, M. Lozano, F. Herrera T3. Implementación de un algoritmo genético distribuido para optimización de problemas reales (Herrera2000) I.Robles, J.M. Benitez, M. Lozano, F. Herrera T4. Algoritmos Distribuidos Heterogéneos para problemas de Optimización Continua (GADEDIST) S. Muelas, J.M. Peña, A. La Torre y V. Robles

3 3 Sesion 2. MAEB para Problemas de Optimización Continua. II. Algoritmos Evolutivos (PSO, DE, DMO, AEF) (Miércoles 11-02-2009, 12:00 – 13:30) T5. Algoritmo Basado en Cúmulos de Partículas y Evolución Diferencial para la Resolución de Problemas de Optimización Continua (DEPSO) José García-Nieto, Javier Apolloni y Enrique Alba T6. Optimización basada en Mallas Dinámicas Su aplicación en la solución de problemas de optimización continuos (DMO) Amilkar Yudier Puri, Rafael Bello, T7. Comportamiento de un Algoritmo Evolutivo Flexible Para Problemas de Optimización continua (AEF) Silvia Alonso, Juan I. Jiménez, Himar Carmona, Blas Galván, Gabriel Winter, Begoña González T8. MOS como Herramienta para la Hibridación de Algoritmos Evolutivos (MOS1,2,3,4) La Torre, J. M. Peña, J. Fernández, y S. Muelas

4 4 Sesion 3. MAEB para Problemas de Optimización Continua. III. Modelos Híbridos (Miércoles 11-02-2009, 15:00 – 16:30) T9. ACO R híbrido con múltiples colonias para problemas de optimización continua (ACOR, ACOR+SW, ACOR+SIMPLEX) C. Blum, P. Cardoso, F. Herrera T10. Adaptive Memory Programming for Global Optimization (STS) Abraham Duarte, Rafael Marti, Fred Glover T11. Algoritmo Memético Basado en Encadenamiento de Búsquedas Locales para Problemas de Optimización Continua (MALSChainCMAES) D. Molina, M. Lozano, F. Herrera Presentación de un análisis global de resultados: F. Herrera (5 Minutos) Debate: Nuevos retos en el desarrollo de modelos MAEB para optimización continua: (20 minutos)

5 5 Análisis de Resultados – MAEB 2009 Debate: Nuevos retos en el desarrollo de modelos MAEB para optimización continua

6 6 Análisis de Resultados D10- f6-f25D10- f15-f25 Mean Ranking STS3,325 GCMAES4,9 GADEDIST7,125 DEPSO7,725 DE8,7 MOS39,025 MOS19,25 MOS49,5 MOS29,8 DMO10,25 KPCX10,85 ACOR+SW11,55 BFPS11,55 MALSChainCMAES11,6 ACOR12,625 ACOR+SIMPLEX13,3 Herrera200013,95 AEF16 BLXRL16,025 CIXL2RL16,925 CIXL1RL18,725 SBXRL20,3 Mean Rankingp-0,005 STS2,45454545 GCMAES5,04545455 GADEDIST6,86363636 DEPSO7,22727273 DE7,90909091 MOS38,27272727 ACOR+SW8,45454545 MOS19,04545455 MOS29,5 MOS49,59090909 MALSChainCMAES10,1363636 DMO11,9090909 ACOR+SIMPLEX12,2727273 KPCX12,9545455 ACOR13,3181818 BFPS13,5454545 BLXRL15,5 CIXL2RL15,5909091 Herrera200015,8181818 AEF_nuevo17,8181818 CIXL1RL18,8636364 SBXRL20,9090909 D30- f6-f25D30- f15-f25 Mean Rankingp-0,005 MALSChainCM AES4,675 STS5,575 GADEDIST7,225 GCMAES8,2 MOS28,65 MOS19,475 MOS39,65 MOS49,725 ACOR10,125 DEPSO10,8 KPCX11,2 DMO11,225 BFPS11,475 ACOR+SIMPLE X12,05 DE12,225 ACOR+SW12,35 AEF14,95 BLXRL15,075 CIXL2RL16,425 Herrera200016,75 CIXL1RL17,45 SBXRL17,725 Algoritmo STS5,04545455 MALSChainCM AES5,18181818 MOS26,77272727 GADEDIST6,95454545 MOS17,95454545 MOS38,40909091 MOS48,63636364 GCMAES8,95454545 DMO9,81818182 ACOR10,3181818 DEPSO10,3636364 ACOR+SW10,5909091 ACOR+SIMPL EX10,8181818 DE11,5454545 KPCX12,8636364 BFPS13,0909091 BLXRL15,0909091 CIXL2RL15,4545455 AEF18,5454545 SBXRL18,5909091 CIXL1RL18,7272727 Herrera200019,2727273 Ranking medio asociado al test de No-paramétrico Friedman

7 7 Análisis de Resultados D10- f6-f25 D10- f15-f25

8 8 Análisis de Resultados D10- f6-f25D10- f15-f25 Mean Ranking STS3,325 GCMAES4,9 GADEDIST7,125 DEPSO7,725 DE8,7 MOS39,025 MOS19,25 MOS49,5 MOS29,8 DMO10,25 KPCX10,85 ACOR+SW11,55 BFPS11,55 MALSChainCMAES11,6 ACOR12,625 ACOR+SIMPLEX13,3 Herrera200013,95 AEF16 BLXRL16,025 CIXL2RL16,925 CIXL1RL18,725 SBXRL20,3 Mean Rankingp-0,005 STS2,45454545 GCMAES5,04545455 GADEDIST6,86363636 DEPSO7,22727273 DE7,90909091 MOS38,27272727 ACOR+SW8,45454545 MOS19,04545455 MOS29,5 MOS49,59090909 MALSChainCMAES10,1363636 DMO11,9090909 ACOR+SIMPLEX12,2727273 KPCX12,9545455 ACOR13,3181818 BFPS13,5454545 BLXRL15,5 CIXL2RL15,5909091 Herrera200015,8181818 AEF_nuevo17,8181818 CIXL1RL18,8636364 SBXRL20,9090909 D30- f6-f25D30- f15-f25 Mean Rankingp-0,005 MALSChainCM AES4,675 STS5,575 GADEDIST7,225 GCMAES8,2 MOS28,65 MOS19,475 MOS39,65 MOS49,725 ACOR10,125 DEPSO10,8 KPCX11,2 DMO11,225 BFPS11,475 ACOR+SIMPLE X12,05 DE12,225 ACOR+SW12,35 AEF14,95 BLXRL15,075 CIXL2RL16,425 Herrera200016,75 CIXL1RL17,45 SBXRL17,725 Algoritmo STS5,04545455 MALSChainCM AES5,18181818 MOS26,77272727 GADEDIST6,95454545 MOS17,95454545 MOS38,40909091 MOS48,63636364 GCMAES8,95454545 DMO9,81818182 ACOR10,3181818 DEPSO10,3636364 ACOR+SW10,5909091 ACOR+SIMPL EX10,8181818 DE11,5454545 KPCX12,8636364 BFPS13,0909091 BLXRL15,0909091 CIXL2RL15,4545455 AEF18,5454545 SBXRL18,5909091 CIXL1RL18,7272727 Herrera200019,2727273 Ranking medio asociado al test de No-paramétrico Friedman

9 9 Análisis de Resultados D30- f6-f25 D30- f15-f25

10 10 Análisis de Resultados Algoritmozpalpha/i¿Dif. Significativa? SBXRL8,271,38E-162,38E-03Si CIXL1RL7,506,40E-142,50E-03Si CIXL2RL6,623,52E-112,63E-03Si BLXRL6,186,22E-102,78E-03Si AEF6,176,72E-102,94E-03Si Herrera20005,172,29E-073,13E-03Si ACOR+SIMPLEX4,861,19E-063,33E-03Si ACOR4,535,93E-063,57E-03Si MALSChainCMAES4,035,58E-053,85E-03Si ACOR+SW4,016,19E-054,17E-03Si BFPS4,016,19E-054,55E-03Si KPCX3,662,48E-045,00E-03Si DMO3,377,45E-045,56E-03Si MOS23,151,61E-036,25E-03Si MOS43,012,64E-037,14E-03Si MOS12,893,91E-038,33E-03Si MOS32,785,51E-031,00E-02Si DE2,628,86E-031,25E-02Si DEPSO2,143,21E-021,67E-02No GADEDIST1,856,42E-022,50E-02No GCMAES0,774,43E-015,00E-02No Tabla 3: Resultados, usando el test de Holm, de los algoritmos presentados respecto al mejor (STS), D10, f 6-25

11 11 Análisis de Resultados Identificación de los algoritmos con mejores resultados AlgoritmoR+R-Valor CríticoDiferencia Significativa DEPSO1634752Sí GADE-DIST194.515.552Sí G-CMA-ES1605052Sí Dimensión 10 Para dimensión 10, el mejor algoritmo identificado es el STS, y los únicos algoritmos no catalogados como estadísticamente peores son el DEPSO, GADE- DIST y G-CMA-ES. Para determinar si el STS es la opción con mejor fitness aplicamos el test de Wilcoxon, que nos permite comparar dos algoritmos entre sí, con p=0.05. Tabla 7: Resultados, usando el test de Wilcoxon, de los algoritmos presentados respecto al mejor (STS), D10, f 6-25

12 12 Análisis de Resultados Algoritmozpalpha/i¿Dif. Significativa? SBXRL6,362,08E-102,38E-03Sí CIXL1RL6,224,93E-102,50E-03Sí Herrera20005,884,09E-092,63E-03Sí CIXL2RL5,721,05E-082,78E-03Sí BLXRL5,064,09E-072,94E-03Sí AEF5,005,62E-073,13E-03Sí ACOR+SW3,741,86E-043,33E-03Sí DE3,682,36E-043,57E-03Sí ACOR+SIMPLEX3,593,29E-043,85E-03Sí BFPS3,319,28E-044,17E-03Sí DMO3,191,42E-034,55E-03Sí KPCX3,181,49E-035,00E-03Sí DEPSO2,982,86E-035,56E-03Sí ACOR2,657,95E-036,25E-03No MOS42,461,39E-027,14E-03No MOS32,421,54E-028,33E-03No MOS12,341,94E-021,00E-02No MOS21,945,29E-021,25E-02No GCMAES1,728,60E-021,67E-02No GADEDIST1,242,14E-012,50E-02No STS0,446,61E-015,00E-02No Tabla 5: Resultados, usando el test de Holm, de los algoritmos presentados respecto al mejor (MA-LS-Chain-CMAES), D30, f 6-25

13 13 Análisis de Resultados Identificación de los algoritmos con mejores resultados AlgoritmoR+R-Valor CríticoDiferencia Significativa ACOR174.535.552Sí GADEDIST137.572.552No G-CMA-ES139.570.552No MOS1184.52652Sí MOS2177.532.552Sí MOS3181.528.552Sí MOS4180.529.552Sí STS110.599.552No Tabla: Resultados, usando el test de Wilcoxon, de los algoritmos presentados respecto al mejor (MA-LS-Chain-CMAES), D30, f 6-25

14 14 Análisis de Resultados Identificación de los algoritmos con mejores resultados FuncionesR+ (STS)R- (MA-LS- Chain-CMAES) Valor Crítico¿Diferencia Significativa? F 6-25 99,5110,552No f 15-25 28,537,510No Tabla 9: Resultados, usando el test de Wilcoxon, de comparar STS y MA-LS-Chain-CMAES, D30

15 15 Análisis de Resultados AlgoritmoF6F6 F7F7 F8F8 F9F9 F 10 F 11 F 12 F 13 F 14 F 15 STS 4,78E+019,78E-012,04E+019,37E-026,95E+011,69E+011,29E+001,37E+001,04E+015,73E-02 MA-LS- Chain- CMAES 1,19E+018,87E-042,03E+017,83E-091,84E+014,35E+007,69E+022,34E+001,27E+013,08E+02 Algoritmo F 16 F 17 F 18 F 19 F 20 F 21 F 22 F 23 F 24 F 25 STS 6,91E+016,62E+018,00E+028,84E+028,00E+025,00E+028,42E+025,34E+022,00E+023,40E+02 MA-LS- Chain- CMAES 1,36E+021,35E+028,16E+02 5,12E+025,26E+025,34E+022,00E+022,11E+02 Tabla 10: Resultados de STS y MA-LS-Chain-CMAES para dimensión 30

16 16 Análisis de Resultados Análisis de Resultados – Bibliografía Demsar, J., Statistical comparisons of classifiers over multiple data sets. Journal of Machine Learning Research. Vol. 7. pp. 1–30. 2006. S. García, F. Herrera, An Extension on "Statistical Comparisons of Classifiers over Multiple Data Sets" for all Pairwise Comparisons.S. GarcíaF. Herrera Journal of Machine Learning Research 9 (2008) 2677-2694. S. GarcíaS. García, D. Molina, M. Lozano, F. Herrera, A Study on the Use of Non-Parametric Tests for Analyzing the Evolutionary Algorithms' Behaviour: A Case Study on the CEC'2005 Special Session on Real Parameter Optimization.D. MolinaM. LozanoF. Herrera Journal of Heuristics, doi: 10.1007/s10732-008-9080-4 in press (2009).doi: 10.1007/s10732-008-9080-4

17 17 Debate Nuevos retos en el desarrollo de modelos MAEB para optimización continua Tenemos muchos algoritmos. ¿Cuál es el siguiente paso? 1.Estudios sobre eficiencia versus eficacia – Convergencia en funciones F1-F15 con un mínimo de evaluaciones. 2.Estudios sobre funciones complejas: F14-F25. 3.Escalabilidad de los algoritmos: Large Scale Optimization (100, 500, 1000 variables o más) 4.Búsqueda Local versus Búsqueda Global: Hibridación

18 18 Sesión Reciente Large Scale Global Optimization CEC2008 Special Session on Large Scale Global Optimization 2008 IEEE World Congress on Computational Intelligence (CEC@WCCI-2008) June 1 - 6, 2008, Hong Kong Reference: K. Tang, X. Yao, P. N. Suganthan, C. MacNish, Y. P. Chen, C. M. Chen, and Z. Yang, "Benchmark Functions for the CEC'2008 Special Session and Competition on Large Scale Global Optimizatio," Technical Report, Nature Inspired Computation and Applications Laboratory, USTC, China http://nical.ustc.edu.cn/cec08ss.php, 2007.

19 19

20 20