Bibliografía “Metaheuristics in Combinatorial Optimization: Overview and conceptual Comparison” C. Blum and A. Roli- TR/IRIDIA/2001-13 “An introduction to memetic algorithms” P.Moscato and C.Cotta- Revista Iberoamericana de Inteligencia artificial Nº19-2003 “Meta-Heuristics:an Overview” I.Osman and J.Kelly- Kluwer academic publishers Proyecto de grado taller V (1999) F.Rey, M.Carlevaro- UDELAR Tesis de maestría en informática (2004) S.Nesmachnow- UDELAR Metaheurísticas

Optimización combinatoria Un problema de optimización combinatoria puede ser especificado con un conjunto de instancias. Cada instancia está asociada con una solución del espacio  (discreto). El espacio factible X (X  ), contiene el conjunto de soluciones que satisface las restricciones del problema Función objetivo: C: R Problema de optimización combinatoria: (P) Min C(S) / S  X   Metaheurísticas

METAHEURISTICAS Objetivo: explorar eficientemente el espacio de búsqueda, de forma de encontrar soluciones (sub)óptimas. Son estrategias para guiar los procesos de búsqueda Son algoritmos aproximados y no determinísticos. Incorporan mecanismos para evitar óptimos locales No son específicas al problema que se intenta resolver, incorporan el conocimiento específico del problema o la experiencia (memoria) ¨desviando¨ la búsqueda Amplio espectro: desde técnicas sencillas como la búsqueda local a técnicas complejas (procesos de aprendizaje, por ejemplo) Metaheurísticas

CLASIFICACIÓN Diferentes formas de clasificar metaheurísticas: Según se inspiren en procesos naturales o no Basados en poblaciones vs único punto o métodos de trayectoria Dinámicos vs funciones objetivo estáticas Una vs varias estructuras de vecindades Según use o no memoria Metaheurísticas

Métodos de trayectoria Método de búsqueda local básico Recocido simulado (“Simulated Annealing”) Búsqueda Tabú (“Tabu search”) Métodos de exploración local (“Explorative local search”) GRASP “Variable neighborhood search” “Guided local search” “Iterated local search” Metaheurísticas

Métodos basados en poblaciones Computación evolutiva Algoritmos genéticos Algoritmos meméticos Búsqueda dispersa (“Scatter search”) y caminos reconectados ( “path relinking”) Algoritmos evolutivos basados en modelos probabilísticos Colonias de hormigas (“Ant colony optimization”) Metaheurísticas

Intensificación y diversificación Metaheurísticas usan diversas estrategias de exploración del espacio de búsqueda. Estrategias de búsqueda: se diseñan balanceando estática o dinámicamente el aprovechamiento de la experiencia acumulada de búsqueda (intensificación) y la exploración del espacio de búsqueda (diversificación) Estructura de las estrategias varía según diferentes metaheurísticas. Mecanismo de intensificación  exploración local Mecanismo de diversificación  exploración global Metaheurísticas

Intensificación/Diversificación básicos: Recocido simulado (M/S/1): Mecanismos de intensificación/diversificación: básicos o intrínsecos y especiales o estratégicos Intensificación/Diversificación básicos: Recocido simulado (M/S/1): Intensificación: búsqueda local Balance dinámico controlado a través del parámetro T. Inicialmente alta diversificación y baja intensificación, al final del algoritmo se invierte relación Búsqueda tabú (A/N/1): Intensificación: búsqueda local y función de aspiración Diversificación: a través de la o las listas tabú. Balance estático: a través del tamaño de la lista tabú. Listas tabú cortas: gran intensificación poca diversificación, listas largas a la inversa. Metaheurísticas

Computación evolutiva (A/S/P): Intensificación: a través del operador del operador de selección que concentra la búsqueda en algunas áreas. Diversificación: en forma natural, a través de las poblaciones, a través de operadores: recombinación y modificación Balance dinámico: Inicialmente alta diversificación y baja intensificación, al final del algoritmo se invierte relación Colonias de hormigas (A/S/P): Intensificación: a través de la feromona y las reglas de actualización que “refuerzan” las buenas soluciones. Diversificación: implementado a través del mecanismo probabilístico de construcción de soluciones. Metaheurísticas

Métodos de exploración local (ELS): Iterada (ILS, A/S/1) Intensificación: búsqueda local Diversificación: implementada a través de la función que modifica el óptimo local Balance determinado por la estructura del criterio de aceptación del óptimo local Diversificación extrema cuando siempre se acepta el nuevo óptimo local. Metaheurísticas

Vecindad variable (VNS, M/S/1) Intensificación/Diversificación: similar a ILS Balance oscilante: si el óptimo local se elige en la vecindad activa en la iteración, hay intensificación, si se elige en otra vecindad, es diversificación Metaheurísticas

GRASP (A/S/1) Intensificación: búsqueda local en la fase de mejora y largo de la lista restringida de candidatos (RCL) Diversificación: implementada a través de la lista restringida de candidatos Balance estático: determinado por el largo de la lista restringida de candidatos Si la RCL es de largo 1, alta intensificación, a medida que aumenta su largo, aumenta la divesificación ya que la solución inicial para la búsqueda local se extrae randómicamente de la RCL Metaheurísticas

Intensificación: búsqueda local Guiada (A/N/1): Intensificación: búsqueda local Diversificación: implementada a través del aumento en la función objetivo por incremento de los términos de penalización correspondientes a soluciones recientemente visitadas. Balance a través del parámetro  que pondera la influencia del término de penalización: si  es grande la diversificación es alta, con  pequeño, aumenta la intensificación y es dificultoso escapar de los óptimos locales. Metaheurísticas

Metaheurística Intensificación Diversificación SA Búsqueda local básica Movimientos que empeoran solución (T) TS Lista tabú (memoria corto plazo) EC selección Operadores de modificación (ej:mutación) ANT Reglas de actualización de la feromona Regla de construcción probabilística ELS Criterio de aceptación y perturbación Metaheurísticas

Intensificación/Diversificación especiales Ejemplo de balanceo oscilante: recomenzar la metaheurística dependiendo de la historia de búsqueda. Frecuencia global: número de ocurrencias de componentes de soluciones durante la corrida del algoritmo (utilizado para cambiar de métaheurística al recomenzar) Aspiración global: guarda soluciones con mejor valor objetivo para reutilizar esta información al recomenzar el algoritmo. SA: técnicas de recalentado y posterior enfriamiento (enfriamiento no monótono) Metaheurísticas

TS: cambios dinámicos en el largo de la lista tabú (Reactive Tabu Search). El largo de la lista varía según las propiedades de la trayectoria en el espacio de búsqueda. EC: no son muy comunes estos mecanismos. Algunas aplicaciones cambian el operador de selección cuando el sistema esta próximo a la convergencia (equivalente a reiniciar el algoritmo) ANT: Al igual que los EC, no es usual interrumpir el proceso de convergencia. En los Ant Colony System , se usan mecanismos extra de diversificación durante la fase de construcción de la solución. Metaheurísticas

Resumen: Los métodos basados en poblaciones son mejores en identificar posibles “buenas áreas” en el espacio de búsqueda (permiten dar “pasos largos” ), que los métodos de trayectoria los cuales son mejores para explorar localmente las áreas. Algunos métodos de trayectoria que tratan de dar “pasos más largos” como el ILS o VNS, pero normalmente los pasos no son guiados. En los métodos de población hay mecanismos para guiar las búsquedas y hay una memoria de más largo plazo (path relinking, scatter). Las heurísticas “híbridas” tratan de aprovechar las bondades de ambos tipos de métodos y han tenido éxito en algunas aplicaciones, es un tipo de técnica a continuar mejorando en el futuro. Metaheurísticas

Esquema de clasificación X/Y/Z Propuesto por Laguna (similar al esquema para filas de espera propuesto por Kendall) X = A(adaptativo, con memoria) o M (sin memoria) Y= N (búsqueda determinística) o S (muestreo aleatorio) Z = 1 (basado en una solución) o P (basado en poblaciones). Metaheurísticas

Metaheurísticas