Bibliografía “Metaheuristics in Combinatorial Optimization: Overview and conceptual Comparison” C. Blum and A. Roli- TR/IRIDIA/2001-13 “An introduction.

Presentación del tema: "Bibliografía “Metaheuristics in Combinatorial Optimization: Overview and conceptual Comparison” C. Blum and A. Roli- TR/IRIDIA/2001-13 “An introduction."— Transcripción de la presentación:

1 Bibliografía “Metaheuristics in Combinatorial Optimization: Overview and conceptual Comparison” C. Blum and A. Roli- TR/IRIDIA/ “An introduction to memetic algorithms” P.Moscato and C.Cotta- Revista Iberoamericana de Inteligencia artificial Nº “Meta-Heuristics:an Overview” I.Osman and J.Kelly- Kluwer academic publishers Proyecto de grado taller V (1999) F.Rey, M.Carlevaro- UDELAR Tesis de maestría en informática (2004) S.Nesmachnow- UDELAR Metaheurísticas

2 Optimización combinatoria
Un problema de optimización combinatoria puede ser especificado con un conjunto de instancias. Cada instancia está asociada con una solución del espacio  (discreto). El espacio factible X (X  ), contiene el conjunto de soluciones que satisface las restricciones del problema Función objetivo: C: R Problema de optimización combinatoria: (P) Min C(S) / S  X   Metaheurísticas

3 METAHEURISTICAS Objetivo: explorar eficientemente el espacio de búsqueda, de forma de encontrar soluciones (sub)óptimas. Son estrategias para guiar los procesos de búsqueda Son algoritmos aproximados y no determinísticos. Incorporan mecanismos para evitar óptimos locales No son específicas al problema que se intenta resolver, incorporan el conocimiento específico del problema o la experiencia (memoria) ¨desviando¨ la búsqueda Amplio espectro: desde técnicas sencillas como la búsqueda local a técnicas complejas (procesos de aprendizaje, por ejemplo) Metaheurísticas

4 CLASIFICACIÓN Diferentes formas de clasificar metaheurísticas:
Según se inspiren en procesos naturales o no Basados en poblaciones vs único punto o métodos de trayectoria Dinámicos vs funciones objetivo estáticas Una vs varias estructuras de vecindades Según use o no memoria Metaheurísticas

5 Métodos de trayectoria
Método de búsqueda local básico Recocido simulado (“Simulated Annealing”) Búsqueda Tabú (“Tabu search”) Métodos de exploración local (“Explorative local search”) GRASP “Variable neighborhood search” “Guided local search” “Iterated local search” Metaheurísticas

6 Métodos basados en poblaciones
Computación evolutiva Algoritmos genéticos Algoritmos meméticos Búsqueda dispersa (“Scatter search”) y caminos reconectados ( “path relinking”) Algoritmos evolutivos basados en modelos probabilísticos Colonias de hormigas (“Ant colony optimization”) Metaheurísticas

7 Intensificación y diversificación
Metaheurísticas usan diversas estrategias de exploración del espacio de búsqueda. Estrategias de búsqueda: se diseñan balanceando estática o dinámicamente el aprovechamiento de la experiencia acumulada de búsqueda (intensificación) y la exploración del espacio de búsqueda (diversificación) Estructura de las estrategias varía según diferentes metaheurísticas. Mecanismo de intensificación  exploración local Mecanismo de diversificación  exploración global Metaheurísticas

8 Intensificación/Diversificación básicos: Recocido simulado (M/S/1):
Mecanismos de intensificación/diversificación: básicos o intrínsecos y especiales o estratégicos Intensificación/Diversificación básicos: Recocido simulado (M/S/1): Intensificación: búsqueda local Balance dinámico controlado a través del parámetro T. Inicialmente alta diversificación y baja intensificación, al final del algoritmo se invierte relación Búsqueda tabú (A/N/1): Intensificación: búsqueda local y función de aspiración Diversificación: a través de la o las listas tabú. Balance estático: a través del tamaño de la lista tabú. Listas tabú cortas: gran intensificación poca diversificación, listas largas a la inversa. Metaheurísticas

9 Computación evolutiva (A/S/P):
Intensificación: a través del operador del operador de selección que concentra la búsqueda en algunas áreas. Diversificación: en forma natural, a través de las poblaciones, a través de operadores: recombinación y modificación Balance dinámico: Inicialmente alta diversificación y baja intensificación, al final del algoritmo se invierte relación Colonias de hormigas (A/S/P): Intensificación: a través de la feromona y las reglas de actualización que “refuerzan” las buenas soluciones. Diversificación: implementado a través del mecanismo probabilístico de construcción de soluciones. Metaheurísticas

10 Métodos de exploración local (ELS):
Iterada (ILS, A/S/1) Intensificación: búsqueda local Diversificación: implementada a través de la función que modifica el óptimo local Balance determinado por la estructura del criterio de aceptación del óptimo local Diversificación extrema cuando siempre se acepta el nuevo óptimo local. Metaheurísticas

11 Vecindad variable (VNS, M/S/1)
Intensificación/Diversificación: similar a ILS Balance oscilante: si el óptimo local se elige en la vecindad activa en la iteración, hay intensificación, si se elige en otra vecindad, es diversificación Metaheurísticas

12 GRASP (A/S/1) Intensificación: búsqueda local en la fase de mejora y largo de la lista restringida de candidatos (RCL) Diversificación: implementada a través de la lista restringida de candidatos Balance estático: determinado por el largo de la lista restringida de candidatos Si la RCL es de largo 1, alta intensificación, a medida que aumenta su largo, aumenta la divesificación ya que la solución inicial para la búsqueda local se extrae randómicamente de la RCL Metaheurísticas

13 Intensificación: búsqueda local
Guiada (A/N/1): Intensificación: búsqueda local Diversificación: implementada a través del aumento en la función objetivo por incremento de los términos de penalización correspondientes a soluciones recientemente visitadas. Balance a través del parámetro  que pondera la influencia del término de penalización: si  es grande la diversificación es alta, con  pequeño, aumenta la intensificación y es dificultoso escapar de los óptimos locales. Metaheurísticas

14 Metaheurística Intensificación Diversificación
SA Búsqueda local básica Movimientos que empeoran solución (T) TS Lista tabú (memoria corto plazo) EC selección Operadores de modificación (ej:mutación) ANT Reglas de actualización de la feromona Regla de construcción probabilística ELS Criterio de aceptación y perturbación Metaheurísticas

15 Intensificación/Diversificación especiales
Ejemplo de balanceo oscilante: recomenzar la metaheurística dependiendo de la historia de búsqueda. Frecuencia global: número de ocurrencias de componentes de soluciones durante la corrida del algoritmo (utilizado para cambiar de métaheurística al recomenzar) Aspiración global: guarda soluciones con mejor valor objetivo para reutilizar esta información al recomenzar el algoritmo. SA: técnicas de recalentado y posterior enfriamiento (enfriamiento no monótono) Metaheurísticas

16 TS: cambios dinámicos en el largo de la lista tabú (Reactive Tabu Search). El largo de la lista varía según las propiedades de la trayectoria en el espacio de búsqueda. EC: no son muy comunes estos mecanismos. Algunas aplicaciones cambian el operador de selección cuando el sistema esta próximo a la convergencia (equivalente a reiniciar el algoritmo) ANT: Al igual que los EC, no es usual interrumpir el proceso de convergencia. En los Ant Colony System , se usan mecanismos extra de diversificación durante la fase de construcción de la solución. Metaheurísticas

17 Resumen: Los métodos basados en poblaciones son mejores en identificar posibles “buenas áreas” en el espacio de búsqueda (permiten dar “pasos largos” ), que los métodos de trayectoria los cuales son mejores para explorar localmente las áreas. Algunos métodos de trayectoria que tratan de dar “pasos más largos” como el ILS o VNS, pero normalmente los pasos no son guiados. En los métodos de población hay mecanismos para guiar las búsquedas y hay una memoria de más largo plazo (path relinking, scatter). Las heurísticas “híbridas” tratan de aprovechar las bondades de ambos tipos de métodos y han tenido éxito en algunas aplicaciones, es un tipo de técnica a continuar mejorando en el futuro. Metaheurísticas

18 Esquema de clasificación X/Y/Z
Propuesto por Laguna (similar al esquema para filas de espera propuesto por Kendall) X = A(adaptativo, con memoria) o M (sin memoria) Y= N (búsqueda determinística) o S (muestreo aleatorio) Z = 1 (basado en una solución) o P (basado en poblaciones). Metaheurísticas

19 Metaheurísticas