Sabemos reconocerlas, y calcularlas como soluciones de sistemas de ecuaciones, o de desigualdades Buscamos métodos de cálculo generales y eficientes Problemas de optimización Soluciones 1

Métodos iterativos: No existen métodos directos generales Se parte de un valor x 0, y se genera una sucesión { x k }  k=0 con la propiedad de que lim k  x k  x * y x * cumpla algunas condiciones de extremo Soluciones de problemas de optimización 2

Consideremos el problema min x f (x ) Buscaremos un punto que cumpla  f (x * ) = 0 Si x k no cumple la condición, se genera otro punto a partir de  f (x k +p ) = 0 Problema sin restricciones 3

Problema tan difícil como el original Puede aproximarse: Encontrar la solución de  f (x k ) +  2 f (x k )p = 0 o resolver min p  f (x k ) T p + ½p T  2 f (x k )p 4

Problema sin restricciones Interpretación gráfica del problema de optimización aproximado 5

Problemas sin restricciones Método de Newton básico: 1) Partir de un valor inicial x 0 2) Comprobar si   f (x k )  <  3) Si no lo es, calcular un vector p a partir de  2 f (x k )p = -  f (x k ) 4) Obtener el siguiente punto como x k+1 =x k +p k 6

Problema sin restricciones Ejemplo: x 1 min f (x )   (1+x 1 2 ) (1+x 2 2 ) Punto inicial: x 0 = [ ] T Solución: x * = [ -1 0 ] T 7

Problema sin restricciones Método de Newton: 2.1) Gradiente:  f (x 0 ) = [ ] T,   f (x 0 )  = ) Dirección de movimiento: H 0 p 0 = -g 0, p 0 = p 0 =

Problema sin restricciones 4.1) Nuevo punto: x 1 = x 0 + p 0 = [ ] T 2.2) Gradiente:  f (x 1 ) = [ ] T,   f (x 1 )  = ) Dirección de movimiento: p 1 = -, p 1 = ) Nuevo punto: x 2 = x 1 + p 1 = [ ] T 9

Problema sin restricciones 2.3) Gradiente:  f (x 2 ) = [ ] T,   f (x 2 )  = ) Dirección de movimiento: p 2 = -, p 2 = ) N. punto: x 3 = x 2 + p 2 = [ ] T 2.4) Gradiente:  f (x 3 ) = [ ] T,   f (x 3 )  =

Problema sin restricciones Dificultades del método de Newton: No convergencia: porque tiende a infinito, o porque no existe solución del sistema de ecuaciones Convergencia a máximos o puntos de silla 11

Problema sin restricciones Procedimiento para converger a mínimos: emplear segundas derivadas direcciones de curvatura negativa forzar el decrecimiento de la función objetivo cerca de puntos de silla o máximos modelos cuadráticos convexos relacionados 12

Problema sin restricciones Procedimiento usual: descenso obligado En cada iteración se define x k+1 = x k +  k p k y se fuerza a que se cumpla:  f (x k ) T p k < 0 f (x k +  k p k ) - f (x k )   k  f (x k ) T p k   [ 10 -4, 0.1 ] 13

Problema sin restricciones Cambios en el cálculo de p. Hace falta: Asegurar que existe solución del sistema, y garantizar que es dirección de descenso,  f (x k ) T p k < 0 Para ello bastaría con que  2 f (x k ) d.p. 14

Problema sin restricciones Método de Newton modificado. Se resuelve el sistema de ecuaciones M k p k = -  f (x k ) donde M k cumple que Es definida positiva, y se parece todo lo posible a  2 f (x k ) 15

Problema sin restricciones Construcción de la matriz M k Añadir un múltiplo de la identidad: M k =  2 f (x k ) +  I   - min(0, min (  2 f (x k )) -  ) Todos los autovalores se modifican en la cantidad  16

Problema sin restricciones Construcción de la matriz M k Cambiar los autovalores de la matriz:  2 f (x k ) = U  U T, M k = U  U T,  i = max( ,  i  ) se conservan los autovectores Otros métodos: Choleski modificado, etc. 17

Problema sin restricciones x 1 Ejemplo: f (x )   (1+x 1 ) 2 (1+x 2 ) x 0 = [ ] T,  2 f (x 0 ) = (  2 f (x 0 )) = [ ] Matriz definida negativa 18

Problema sin restricciones Ejemplo: M k = H k +  I = H k I = H k = M k = =

Problema sin restricciones Estos cambios no son suficientes Posibilidad de diverger (converger a infinito) Posibilidad de ciclos Asegurar descenso en cada iteración Búsqueda lineal: x k+1 = x k +  k p k,  k  (0,1] 20

Problema sin restricciones Cálculo de  k Objetivo: en cada iteración el valor de f (x k ) debe decrecer suficientemente. Condición: f (x k +  k p k )  f (x k ) +  k  f (x k ) T p k Parámetro  k  (0,1). En la práctica   [ 10 -4, 0.1 ] 21

Problema sin restricciones Procedimiento de cálculo de  k Búsqueda hacia atrás: Se prueba con  k = 1 Si se cumple la condición, se acepta el valor Si no, se prueba con  k /2 Otros métodos: ajuste polinómico, etc. 22

Problema sin restricciones Ejemplo de cálculo de  k Tenemos los datos siguientes: x 1 f (x ) = , x 0 = [ ] T, p 0 = [-2 1] T (1+x 1 2 ) (1+x 2 2 ) Información necesaria: f (x 0 ) = -0.37,  f (x 0 ) = [ ] T  f (x 0 ) T p 0 = -1.08,  =

Problema sin restricciones Iteración 1.  = 1 f (x 0 + p 0 ) = , f (x 0 ) +  f (x 0 ) T p 0 = Iteración 2.  = 0.5 f (x 0 +  p 0 ) = , f (x 0 ) +  f (x 0 ) T p 0 = Aceptamos  = 0.5 x 1 = x p 0 = [ ] T 24

Problema sin restricciones x 1 Ejemplo: f (x )   (1+x 1 2 ) (1+x 2 2 ) x 0 = [ ] T Iteración 1.1 ¿Es el punto actual solución?  f (x 0 ) = [ ] T,   f (x 0 )  =

Problemas sin restricciones Iteración 1.2. Dirección de movimiento H 0 =, M 0 = M 0 p 0 = - g 0  p 0 = [ ] T Iteración 1.3. Cálculo de la longitud de paso f (x 0 ) = 0.367,  f (x 0 ) T p 0 = , f (x 0 + p 0 ) = f (x 0 ) +   f (x 0 ) T p 0 = > f (x 0 + p 0 )   0 = 1 26

Problema sin restricciones Iteración 1.4. Nuevo punto x 1 = x 0 +  0 p 0, x 1 = [ ] T + [ ] T = [ ] T Iteración 2.1 ¿Es solución el último punto?  f (x 1 ) = [ ] T,   f (x 1 )  = Iteración 2.2. Dirección de movimiento H 1 =, M 1 = M 1 p 1 = - g 1  p 1 = [ ] T 27

Problema sin restricciones Iteración 2.3. Longitud de paso f (x 1 ) = 0.032,  f (x 1 ) T p 1 = , f (x 1 + p 1 ) = f (x 1 ) +  f (x 1 ) T p 1 = > f (x 1 + p 1 )   1 = 1 Iteración 2.4. Nuevo punto x 2 = x 1 +  1 p 1, x 2 = [ ] T + [ ] T = [ ] T 28

Problema sin restricciones Método de Newton modificado. Maximización Paso 0. Determinar un punto inicial, x 0 Paso 1. Comprobar si x k es solución   f (x k )  <  Paso 2. Calcular la dirección de movimiento Paso 2.1. Calcular los valores propios de H k =  2 f (x k ) Paso 2.2. Si H k es definida negativa, M k = H k si no, M k = H k - , por ejemplo 29

Problema sin restricciones Paso 2.3. Resolver el sistema de ecuaciones M k p k = -  f (x k ) Paso 3. Calcular la longitud de paso Paso 3.1. Para  = 1 comprobar si se cumple f (x k +  k p k )  f (x k ) +  k  f (x k ) T p k Paso 3.2. Si no se cumple, probar con  hasta que se cumpla. Paso 4. Calcular el nuevo punto x k+1 = x k +  k p k 30

Problema sin restricciones Convergencia del método de Newton ¿Converge la sucesión { x k } ? ¿Qué propiedades tienen sus límites? lim k  x k La sucesión puede divergir si: Función objetivo no acotada inferiormente Función objetivo decrece monótonamente 31

Problema sin restricciones Condición habitual de acotación El conjunto S 0 es compacto S 0 = { y : f (y )  f (x 0 ) } Todos los puntos x k pertenecen a S 0 Existen subsucesiones convergentes Propiedades de los puntos límite No podemos asegurar que sean mínimos 32

Problema sin restricciones Propiedades de puntos límite Al menos, debiéramos esperar que cumplan  f (x * ) = 0 Demostración de convergencia De la condición sobre  f (x k +  k p k )  f (x k ) +  k  f (x k ) T p k en el límite  k  f (x k ) T p k  0 33

Problema sin restricciones Demostración de convergencia (ii) Definición de p k y propiedades de M k M k p k = -  f (x k )   f (x k ) T p k = -  f (x k ) T M k -1  f (x k )   f (x k ) T p k  -    f (x k )  2 De la condición anterior tenemos  k   f (x k )  2  0 34

Problema sin restricciones Demostración de convergencia (iii) La longitud de paso  k no puede ir a cero Desarrollo en serie de Taylor 0   (  k ) -  (0) -  k  ’ (0) = (1-  )  k  ’ (0) + ½  k 2  ’” (0) + o(  k 2 )  k  - ((1-  )  k  ’ (0) + o(  k ))/(½  ’” (0)) Por tanto,   f (x k )   0 35

Restricciones de igualdad Problema con restricciones de igualdad: min x f (x ) s.a c (x ) = 0 Condiciones necesarias: c (x ) = 0  f (x ) -  c (x ) T = 0 36

Restricciones de igualdad Problema similar al caso sin restricciones Resolución de un sistema de ecuaciones no lineales Sistema en x y Aproximación del sistema mediante sistemas de ecuaciones lineales O bien, aproximación mediante soluciones de problemas de optimización cuadráticos 37

Restricciones de igualdad Dado un punto (x k, k ) aproximación a las condiciones necesarias: c (x k ) +  c (x k )p k = 0  f (x k ) +  2 L (x k, k )p k -  c (x k ) T k -  c (x k ) T  k = 0 o bien (sistema KKT ),  2 L (x k, k )  c (x k ) T p k  L (x k, k ) = -  c (x k ) 0 -  k c (x k ) 38

Restricciones de igualdad Método de Newton básico: Paso 0. Se parte de un punto (x 0, 0 ) Paso 1. Se comprueba si es solución,  c (x k )  +   f (x k ) -  c (x k ) T k  <  Paso 2. Se resuelve el sistema lineal (KKT ) para calcular (p k,  k ) Paso 3. Se actualizan las variables x k+1 = x k + p k, k+1 = k +  k 39

Restricciones de igualdad El sistema (KKT ) se puede reescribir como A k A k T p Y = - c k Z k T H k Z k p Z = - Z k T g k - Z k T H k A k T p Y p k = Z k p Z + A k T p Y A k T  k = g k + H k p k - A k T k donde H k   2 L (x k, k ), A k   c (x k ), g k   f (x k ), c k  c (x k ) 40

Restricciones de igualdad Modificación de dirección de movimiento Mejorar la función objetivo, y Cumplimiento de las restricciones No es posible siempre mejorar ambas Por ejemplo: Punto inicial: mínimo sin restricciones Siempre es posible cumplir las restricciones Prioridades: 1. Cumplir las restricciones 2. Mejorar la función objetivo 41

42 Restricciones de igualdad Comportamiento respecto a restricciones Definimos una medida de mejora  (x ) :  (x )   c (x )  2,  (x ) = 2  c (x ) T c (x ) A k p k = - c k   k T p k = - 2  c k  2 p siempre dirección de descenso de restricciones Comportamiento respecto a función objetivo Modificar p en lo que respecta a mejorar f Sin afectar a la mejora de  (x )

Restricciones de igualdad Separar las componentes de p : Componentes mejora de las restricciones: Movimiento normal a restricciones:  c (x k ) T p Y Componentes mejora de la función objetivo: Movimiento tangente a las restricciones: Z k p Z Método de Newton modificado: Matriz Z k T H k Z k debiera ser definida positiva Objetivo: descenso en el valor de la función objetivo 43

44 Restricciones de igualdad Efecto de la modificación de Z k T H k Z k : Sistema a resolver: A k A k T p Y = - c k M k p Z = - Z k T g k - Z k T H k A k T p Y p k = Z k p Z + A k T p Y Descenso en la función objetivo: g k T p k = g k T Z k p Z + g k T A k T p Y = -p Z T M k p Z -p Z T Z k T H k A k T p Y + g k T A k T p Y Descenso si c k = 0

Restricciones de igualdad Búsqueda lineal: punto siguiente dado por x k+1 = x k +  k p k k+1 = k +  k  k Para calcular  k hace falta una medida de progreso a la solución Progreso a la solución: Reducción en el valor de f, y mejora en cumplimiento de restricciones 45

Restricciones de igualdad Medida de cumplimiento de restricciones:  c (x )  Idealmente, descenso en f y mejora en  c  Si no se dan ambas condiciones, por ejemplo  c (x k +1 )  >  c (x k ) , f (x k +1 ) < f (x k ) Se busca un compromiso entre ambas 46

Restricciones de igualdad Compromiso más simple: sumar valores Inconveniente: cambios de escala Se añade un parámetro para corregir escala Función de penalización exacta: m E (x ) = f (x ) +   c (x )  Propiedad importante: Mínimo de m E debe ser mínimo del problema 47

Restricciones de igualdad Propiedad teórica (penalización exacta): Existe un valor  tal que para todo    la función m E tiene un mínimo en el mínimo del problema de optimización Valor de , para * multiplicador en la solución  =  *  Inconveniente: la función m E no es diferenciable en todos los puntos 48

Restricciones de igualdad Funciones diferenciables Alternativa: la función lagrangiana tiene primera derivada igual a cero en la solución La condición de segundo orden no se cumple Se añade término de penalización cuadrático m A (x, ) = f (x ) - T c (x ) + ½   c (x )  2 Propiedad: existe  tal que    los mínimos de m A y el problema coinciden 49

Restricciones de igualdad Función de mérito: Medida de compromiso entre f y c cuyo mínimo sea solución del problema Combinación de valores de f y c o sus derivadas Ejemplos: m E, m A, otras 50

Restricciones de igualdad Utilización de la función de mérito Se selecciona una al inicio del problema Se determina el valor de  k para asegurar descenso suficiente en la función de mérito Ejemplos: m E (x k +  k p k )  m E (x k ) +  k  m E (x k ) T p k m A (x k +  k p k, k +  k  k )  m A (x k, k ) +  k  x m A (x k, k ) T p k +  k  m A (x k, k ) T  k 51

Restricciones de igualdad x 1 Ejemplo: min f (x )   (1+x 1 ) 2 (1+x 2 ) 2 s.a x x 2 2 = 0.8 Punto inicial: x 0 = [ ] T, 0 = 0 Paso 1.1. ¿Es solución? c (x 0 ) = -0.35,  f (x 0 ) -  c (x 0 ) T 0 = [ ] T 52

Restricciones de igualdad Paso 1.2. Cálculo de la dirección de movimiento  2 L 0 A 0 T p 0  L 0 = - A  0 c p = , p 0 = -   0 =

Restricciones de igualdad Paso 1.3. Cálculo de la longitud de paso Función de mérito: penalización exacta m E (x 0 +  p 0 ) = f (x 0 +  p 0 ) +  c (x 0 +  p 0 )  =  (  ) Búsqueda lineal: encontrar  tal que  (  )   (0) +  ’(0),  = 0.1 (  = 10) Valores previos:  (0) = 3.005,  ’(0) = g 0 T p 0 +  c 0 T A 0 p 0 /  c 0  = Búsqueda:  = 1,  (  ) = 3.019,  (0) +  ’(0) =  = 0.5,  (  ) = 0.386,  (0) +  ’(0) =

Restricciones de igualdad Paso 1.4. Cálculo del nuevo punto x 1 = x p 0 = [ ] T, 1 =  0 = Paso 2.1. ¿Es solución? c (x 1 ) = ,  f (x 1 ) -  c (x 1 ) T 1 = [ ] T Paso 2.2. Dirección de movimiento p = , p 1 = -   1 =

Restricciones de igualdad Paso 2.3. Longitud de paso  (  ) = f (x 0 +  p 0 ) +   c (x 0 +  p 0 )   (  )   (0) +  ’(0),  = 0.1 (  = 10)  (0) = 0.386,  ’(0) = g 1 T p 1 +  c 1 T A 1 p 1 /  c 1  = Búsqueda:  = 1,  (  ) = ,  (0) +  ’(0) = Paso 2.4. Nuevo punto x 2 = x 1 + p 1 = [ ] T, 2 = 1 +  1 =

Restricciones de desigualdad Prob. con restricciones de desigualdad: min x f (x ) s.a c (x )  0 Condiciones necesarias: c (x ) = 0  f (x ) -  c (x ) T = 0  0 T c (x ) =0 57

Restricciones de desigualdad Dificultad: algunas condiciones son desigualdades no podemos reducir el problema a un sistema de ecuaciones Solución: construir problemas aproximados con restricciones de igualdad 58

Restricciones de desigualdad Construcción de problemas aproximados: Funciones de mérito: no son eficientes Necesidad de ajustar parámetros funciones de barrera: términos en la función objetivo que se comportan como restricción impiden tomar valores fuera de la región factible, y no afectan a los valores en la región factible 59

Restricciones de desigualdad Ejemplo: min x x 2 s.a x  f (x ) = x 2 x 2 - log(x - 1) x  1x  1x  1x  1 60

Restricciones de desigualdad Paso 1. Convertir restricciones: min x f (x ) min x,s f (x ) s.a c (x )  0  s.a c (x ) - s = 0 s  0 Paso 2. Llevar restricciones a la función objetivo min x f (x ) -   i log s i s.a c (x ) - s = 0 61

Restricciones de desigualdad Resultado teórico: Sea x * (  ) la solución del problema min x f (x ) -   i log s i s.a c (x ) - s = 0, se cumple que lim  0 x * (  ) = x *, donde x * es la solución de min x f (x ) s.a c (x )  0 62

Restricciones de desigualdad Solución del problema modificado: Paso 1. Seleccionar un valor inicial para , por ejemplo,  1 = 1 Paso 2. Tomando como valor inicial x 0 = x * (  s-1 ), resolver el problema min x f (x ) -  s  i log s i s.a c (x ) - s = 0 63

Restricciones de desigualdad Paso 3. Reducir el valor de , por ejemplo,  s+1 = 0.1  s y volver al paso 2. El proceso se repite hasta que  es del orden del error deseado en la solución Por ejemplo,  =

Restricciones de desigualdad Precauciones con la función objetivo La función objetivo solo está definida para valores positivos de las variables El punto inicial ha de ser estrictamente positivo La longitud de paso debe asegurar que todos los puntos sean positivos 65

Restricciones de desigualdad Cálculo de la longitud de paso Queremos que el nuevo punto siga siendo positivo x k+1 = x k +  k p k > 0  min i {(x k ) i +  k (p k ) i } > 0 Condición equivalente:  k <   min{ x i /(-p i )  p i < 0 }  k = min{ 1, 0.99  } 66

Restricciones de desigualdad Ejemplo: optimización de cartera min x x T Rx s.a m T x  3.5 e T x = 1 x  0 Datos: e =, m =, R =

Restricciones de desigualdad Problema modificado: Problema en forma estándar min x,s x T R x s.a m T x - s = 3.5 e T x = 1 x, s  0 Problema con restricciones de desigualdad min x,s x T R x -  (  i log x i + log s ) s.a m T x - s = 3.5 e T x = 1 68

Restricciones de desigualdad Paso 0. Sean x 0 = [ ] T, 0 = [0 0] T Tomamos  0 = 0.1 ¿Valor de s 0 ? Positivo Por ejemplo, s 0 = 0.5 > 0 Paso 1.1. ¿Es solución? c (x 0 ) = [ ] T  f (x 0 ) -  c (x 0 ) T 0 = [ ] T 69

Restricciones de desigualdad Paso 1.2. Dirección de movimiento  2 L (x 0, 0 )  c (x 0 ) T p 0  f (x 0 ) -  c (x 0 ) T 0 = -  c (x 0 ) 0 -  0 c (x 0 ) p =  p 0 = [ ] T,  0 = [ ] T 70

Restricciones de desigualdad Paso 1.3. Cálculo de la longitud de paso m (x ) = f (x ) +   c (x ) , m (x 0 ) =  m (x 0 ) =  f (x 0 ) +  c (x 0 ) T c (x 0 ) /  c (x 0 )  = [ ] T  ’(0) =  m (x 0 ) T p 0 = < 0 Si probamos con  = 1, x 0 + p 0 = [ ] T La función objetivo no está definida 71

Restricciones de desigualdad Paso 1.3. Cálculo de la longitud de paso Mayor paso admisible:  = min{x i /(-p i )| p i < 0} = min{0.5/0.675, 0.5/2.877} =  = min{1,  }  Comprobación de la condición: m (x 0 ) = , m (x 0 +  p 0 ) = m (x 0 ) +  m (x 0 ) T p 0 = > m (x 0 +  p 0 ) Aceptamos el paso 72

Restricciones de desigualdad Paso 1.4. Nuevo punto: x 1 = x 0 +  p 0 = [ ] T 1 = 0 +  0 = [ ] T Paso 2.1. ¿Es solución? c (x 1 ) = [ ] T  f (x 1 ) -  c (x 1 ) T 1 = [ ] T 73

Restricciones de desigualdad Programación lineal: min x c T x s.a Ax = b x  0 Transformar el problema: min x c T x -  s  i log s i s.a Ax = b Aplicar el método de Newton Actualizar  s 74