Tele clase 14 Optimización multidimensional.

Presentación del tema: "Tele clase 14 Optimización multidimensional."— Transcripción de la presentación:

1 Tele clase 14 Optimización multidimensional

2 Ejemplo Halle la mínima distancia desde el punto (1,1,1) hasta el paraboloide elíptico z = 3x2 + 4y2

3 Ejemplo Halle la curva del tipo y = a + bekx que mejor se ajusta a un conjunto de datos experimentales (xi, yi) i = 1, 2,..., m

4 Ejemplo Determine los parámetros de operación de una fábrica para los cuales se logra la mayor eficiencia.

5 Notación z = f(u1, u2, ..., un) u1, u2, ..., un y z: Reales

6 Notación z = f(u1, u2, ..., un) u1, u2, ..., un y z: Reales

7 Notación z = f(u1, u2, ..., un) u1, u2, ..., un y z: Reales z = f(X)

8 Representación geométrica
z = f(X) u2 u1

9 Representación geométrica
z = k z = f(X) u2 u1

10 Representación geométrica
z = k z = f(X) u2 u1

11 Representación geométrica
z = k z = f(X) u2 f(X) = k u1

12 Cerca de un punto de máximo

13 Cerca de un punto de máximo
z = 4 u1

14 Cerca de un punto de máximo
z = 4 z = 8 u1

15 Cerca de un punto de máximo
z = 4 z = 8 z = 12 u1

16 Cerca de un punto de máximo
 X* z = 4 z = 8 z = 12 u1

17 Unimodalidad Se dice que f(X) es linealmente unimodal con máximo en una región R si ella es unimodal con máximo en cualquier trayectoria recta X = X0 + V contenida en R

18 Unimodalidad u2  u1

19 Unimodalidad u2  V X0 u1

20 Unimodalidad u2   V X0 u1

21 Unimodalidad z max 

22 Funciones cuadráticas

23 Funciones cuadráticas

24 Funciones cuadráticas

25 Funciones cuadráticas

26 Funciones cuadráticas

27 Funciones cuadráticas
aij = aji

28 Funciones cuadráticas

29 Funciones cuadráticas
Simétrica aij = aji

30 Funciones cuadráticas
Simétrica aij = aji

31 Matriz definida positiva
Sea A simétrica. A se llama definida positiva si para todo vector X no nulo se cumple que:

32 Matriz definida negativa
Sea A simétrica. A se llama definida negativa si para todo vector X no nulo se cumple que:

33 Propiedades 1 Si A es definida positiva, la función cuadrática posee un punto X* de mínimo y se cumple que: AX* = B

34 Propiedades 1 Si A es definida negativa, la función cuadrática posee un punto X* de máximo y se cumple que: AX* = B

35 Propiedades 2 Si A es definida positiva o negativa, la función cuadrática es linealmente unimodal.

36 Ejemplo Analizar si A es definida positiva o negativa

37 Solución

38 Solución

39 Solución XTAX = – 6a2 – 8b2 + 10ab =

40 Solución XTAX = – 6a2 – 8b2 + 10ab = = - (6a2 -10ab ) - 8b2 +

41 Solución XTAX = – 6a2 – 8b2 + 10ab = = - (6a2 -10ab ) - 8b2 +

42 Solución XTAX = – 6a2 – 8b2 + 10ab = = - (6a2 -10ab ) - 8b2 +

43 Solución XTAX = – 6a2 – 8b2 + 10ab = = - (6a2 -10ab ) - 8b2 + < 0

44 Solución XTAX = – 6a2 – 8b2 + 10ab = = - (6a2 -10ab ) - 8b2 + < 0 A es definida negativa

45 Ejemplo

46 Ejemplo

47 Ejemplo

48 Ejemplo

49 Ejemplo

50 Ejemplo

51 Ejemplo AX* = B

52 Ejemplo Punto de máximo AX* = B

53 Máximo en una dirección

54 Máximo en una dirección
V X0 u1

55 Máximo en una dirección
Datos: u2 V X0 f(X), X0, V,  u1

56 Máximo en una dirección
Datos: u2 V X0 f(X), X0, V,  u1 Se supone que f(X) es linealmente unimodal con máximo.

57 Máximo en una dirección
Datos: u2 V X0 f(X), X0, V,  u1 Se supone que f(X) es linealmente unimodal con máximo. Se desea obtener, con una tolerancia , el valor  que hace máxima la función f(X0 + V)

58 Procedimiento MaxUnidim
1 s:=1

59 Procedimiento MaxUnidim
1 s:=1 2 Reducir s a la mitad hasta que f(X0 + sV) > f(X) ó s < 0.1 Si s < 0.1 se supone que en la dirección de V no hay máximo.

60 Procedimiento MaxUnidim
3 Realizar búsqueda secuencial uniforme a partir de =0 con paso s en f(X0 + V) = F() hasta hallar un intervalo [min, max o llegar a 1000 pasos sin éxito

61 Procedimiento MaxUnidim
4 En el intervalo [min, max realizar búsqueda por bisección con hasta que L < 

62 Procedimiento MaxUnidim
5 Tomar MaxUnidim := (min+ max)/2 ó MaxUnidim := -1 si el procedimiento no tuvo éxito

63 Búsqueda por coordenadas

64 Búsqueda por coordenadas
A partir de X0 buscar en dirección de u1 y obtener X1

65 Búsqueda por coordenadas
A partir de X0 buscar en dirección de u1 y obtener X1 A partir de X1 buscar en dirección de u2 y obtener X2

66 Búsqueda por coordenadas
A partir de X0 buscar en dirección de u1 y obtener X1 A partir de X1 buscar en dirección de u2 y obtener X2 A partir de Xn-1 buscar en dirección de un y obtener Xn

67 Búsqueda por coordenadas
A partir de X0 buscar en dirección de u1 y obtener X1 A partir de X1 buscar en dirección de u2 y obtener X2 A partir de Xn-1 buscar en dirección de un y obtener Xn X0 := Xn

68 Búsqueda por coordenadas
A partir de X0 buscar en dirección de u1 y obtener X1 A partir de X1 buscar en dirección de u2 y obtener X2 A partir de Xn-1 buscar en dirección de un y obtener Xn X0 := Xn

69 Geométricamente u2  x* u1

70 Geométricamente u2  x* x0 u1

71 Geométricamente u2  x* x0 x1 u1

72 Geométricamente u2  x* x2 x0 x1 u1

73 Geométricamente u2  x* x2 x0 x0 x1 u1

74 Algoritmo

75 Algoritmo repeat

76 Algoritmo repeat lmax=0

77 Algoritmo repeat lmax=0 for i=1 to n

78 Algoritmo repeat lmax=0 for i=1 to n V := ei

79 Algoritmo repeat lmax=0 for i=1 to n V := ei l := MaxUnidim (f, Xi-1, V, e)

80 Algoritmo repeat lmax=0 for i=1 to n V := ei l := MaxUnidim (f, Xi-1, V, e) if l < 0 then

81 Algoritmo repeat lmax=0 for i=1 to n V := ei l := MaxUnidim (f, Xi-1, V, e) if l < 0 then V := -ei

82 Algoritmo repeat lmax=0 for i=1 to n V := ei l := MaxUnidim (f, Xi-1, V, e) if l < 0 then V := -ei l := MaxUnidim (f, Xi-1, V, e)

83 Algoritmo repeat lmax=0 for i=1 to n V := ei l := MaxUnidim (f, Xi-1, V, e) if l < 0 then V := -ei l := MaxUnidim (f, Xi-1, V, e) if l < 0 then l := 0

84 Algoritmo repeat lmax=0 for i=1 to n V := ei l := MaxUnidim (f, Xi-1, V, e) if l < 0 then V := -ei l := MaxUnidim (f, Xi-1, V, e) if l < 0 then l := 0 end

85 Algoritmo if l < 0 then V := -ei l := MaxUnidim (f, Xi-1, V, e) if l < 0 then l := 0 end

86 Algoritmo if l < 0 then V := -ei l := MaxUnidim (f, Xi-1, V, e) if l < 0 then l := 0 end

87 Algoritmo if l < 0 then V := -ei l := MaxUnidim (f, Xi-1, V, e) if l < 0 then l := 0 end Xi := Xi-1 + V

88 Algoritmo if l < 0 then V := -ei l := MaxUnidim (f, Xi-1, V, e) if l < 0 then l := 0 end Xi := Xi-1 + V if l > lmax then lmax = l

89 Algoritmo if l < 0 then V := -ei l := MaxUnidim (f, Xi-1, V, e) if l < 0 then l := 0 end Xi := Xi-1 + V if l > lmax then lmax = l end

90 Algoritmo if l < 0 then V := -ei l := MaxUnidim (f, Xi-1, V, e) if l < 0 then l := 0 end Xi := Xi-1 + V if l > lmax then lmax = l end X0 := Xn

91 Algoritmo Xi := Xi-1 + V if l > lmax then lmax = l end X0 := Xn

92 Algoritmo Xi := Xi-1 + V if l > lmax then lmax = l end X0 := Xn

93 Algoritmo Xi := Xi-1 + V if l > lmax then lmax = l end X0 := Xn until lmax < 

94 Algoritmo Xi := Xi-1 + V if l > lmax then lmax = l end X0 := Xn until lmax <  El punto de máximo es Xn

95 Algoritmo Xi := Xi-1 + V if l > lmax then lmax = l end X0 := Xn until lmax <  El punto de máximo es Xn Terminar

96 Ejemplo Hallar el punto de máximo de la función: Con error menor que 0,001

97 Solución Tomemos

98 Ejemplo

99 Ejemplo

100 Ejemplo

101 Ejemplo

102 Ejemplo

103 Ejemplo

104 Ejemplo

105 Ejemplo

106 Ejemplo

107 Ejemplo

108 Ejemplo

109 Ejemplo

110

111 El vector gradiente

112 El vector gradiente Es un vector que señala la dirección en que f(X) tiene su mayor crecimiento

113 El vector gradiente Es un vector que señala la dirección en que f(X) tiene su mayor crecimiento u2 u1

114 El método del gradiente
Se realizan búsquedas unidimensionales sucesivas en direcciones dadas por el vector gradiente

115 Algoritmo

116 Algoritmo Se supone que f(X) es diferenciable y linealmente unimodal con máximo.

117 Algoritmo Se supone que f(X) es diferenciable y linealmente unimodal con máximo. Se desea hallar el punto de máximo de f(X) con error menor que 

118 Algoritmo Se supone que f(X) es diferenciable y linealmente unimodal con máximo. Se desea hallar el punto de máximo de f(X) con error menor que  Datos: n, f, , X0, 

119 Algoritmo

120 Algoritmo i := 0

121 Algoritmo i := 0 repeat

122 Algoritmo i := 0 repeat V := evaluado en Xi

123 Algoritmo i := 0 repeat V := evaluado en Xi Normalizar V

124 Algoritmo i := 0 repeat V := evaluado en Xi Normalizar V l := MaxUnidim (f, Xi, V, e)

125 Algoritmo i := 0 repeat V := evaluado en Xi Normalizar V l := MaxUnidim (f, Xi, V, e) Xi+1 := Xi + l V

126 Algoritmo i := 0 repeat V := evaluado en Xi Normalizar V l := MaxUnidim (f, Xi, V, e) Xi+1 := Xi + l V i := i + 1

127 Algoritmo i := 0 repeat V := evaluado en Xi Normalizar V l := MaxUnidim (f, Xi, V, e) Xi+1 := Xi + l V i := i + 1 until l < e

128 Algoritmo i := 0 repeat V := evaluado en Xi Normalizar V l := MaxUnidim (f, Xi, V, e) Xi+1 := Xi + l V i := i + 1 until l < e El punto de máximo es Xi

129 Algoritmo i := 0 repeat V := evaluado en Xi Normalizar V l := MaxUnidim (f, Xi, V, e) Xi+1 := Xi + l V i := i + 1 until l < e El punto de máximo es Xi Terminar

130 Geométricamente u2  x* u1

131 Geométricamente u2  x* x0 u1

132 Geométricamente u2 x1  x* x0 u1

133 Geométricamente u2 x1  x* x0 u1

134 Geométricamente u2 x1  x* x2 x0 u1

135 Ejemplo Hallar el punto de máximo de la función: Con error menor que 0,001

136 Solución

137 Solución

138 Solución Tomemos:

139 Ejemplo

140 Ejemplo

141 Ejemplo

142 Ejemplo

143 Ejemplo

144 Ejemplo

145 Ejemplo

146 Ejemplo

147 Ejemplo

148 Ejemplo

149 Ejemplo

150

151 Direcciones conjugadas

152 Direcciones conjugadas
Sea A una matriz definida positiva o negativa.

153 Direcciones conjugadas
Sea A una matriz definida positiva o negativa. Sean di y dj vectores de Rn.

154 Direcciones conjugadas
Sea A una matriz definida positiva o negativa. Sean di y dj vectores de Rn. Las direcciones di y dj se llaman conjugadas (respecto a A) si diTA dj = 0

155 Ejemplo

156 Ejemplo

157 Ejemplo

158 Ejemplo XTAX = 3a2 + 4b2 + 4ab =

159 Ejemplo XTAX = 3a2 + 4b2 + 4ab = 2a2 + (a2 + 4ab + 4b2) =

160 Ejemplo XTAX = 3a2 + 4b2 + 4ab = 2a2 + (a2 + 4ab + 4b2) = 2a2 + (a + 2b)2

161 Ejemplo XTAX = 3a2 + 4b2 + 4ab = 2a2 + (a2 + 4ab + 4b2) = 2a2 + (a + 2b)2 > 0

162 Ejemplo Definida positiva XTAX = 3a2 + 4b2 + 4ab = 2a2 + (a2 + 4ab + 4b2) = 2a2 + (a + 2b)2 > 0

163 Ejemplo

164 Ejemplo

165 Ejemplo diTA dj =

166 Ejemplo diTA dj =

167 Ejemplo diTA dj =

168 Ejemplo diTA dj = = 0

169 Ejemplo diTA dj = Direcciones conjugadas = 0

170 Interpretación geométrica
F(X) = XTAX

171 Interpretación geométrica
u2 F(X) = XTAX u1 XTAX = k

172 Interpretación geométrica
u2 F(X) = XTAX u1 XTAX = k

173 Interpretación geométrica
u2 dj F(X) = XTAX di u1 XTAX = k

174 Interpretación geométrica
u2 dj F(X) = XTAX di u1 XTAX = k

175 Principio de tangentes paralelas

176 Principio de tangentes paralelas
u2 X* u1

177 Principio de tangentes paralelas
u2 X* u1 P1

178 Principio de tangentes paralelas
u2 X* d u1 P1

179 Principio de tangentes paralelas
u2 X* d X1 u1 P1

180 Principio de tangentes paralelas
u2 P2 X* d X1 u1 P1

181 Principio de tangentes paralelas
u2 d P2 X* d X1 u1 P1

182 Principio de tangentes paralelas
u2 d X2 P2 X* d X1 u1 P1

183 Principio de tangentes paralelas
u2 d X2 P2 X* d X1 u1 P1

184 El método de Powell En una función cuadrática: Si se cuenta con un conjunto de n direcciones conjugadas, se llega a X* mediante n búsquedas unidimensionales sucesivas en esas direcciones.

185 El método de Powell En una función cuadrática: Si se realizan dos búsquedas unidimensionales a partir de dos puntos distintos en una misma dirección, el vector que une los óptimos alcanzados determina una dirección conjugada de la anterior.

186 Estrategia de Powell

187 Estrategia de Powell 1 Se comienza con un conjunto de direcciones d1, d2,..., dn

188 Estrategia de Powell 1 Se comienza con un conjunto de direcciones d1, d2,..., dn 2 Se halla X1 optimizando f en la dirección d1 a partir de X0

189 Estrategia de Powell 1 Se comienza con un conjunto de direcciones d1, d2,..., dn 2 Se halla X1 optimizando f en la dirección d1 a partir de X0 Se halla X2 optimizando f en la dirección d2 a partir de X1

190 Estrategia de Powell 1 Se comienza con un conjunto de direcciones d1, d2,..., dn 2 Se halla X1 optimizando f en la dirección d1 a partir de X0 Se halla X2 optimizando f en la dirección d2 a partir de X1 Se halla Xn optimizando f en la dirección dn a partir de Xn-1

191 Estrategia de Powell 3 Se halla un nuevo X0 optimizando f en la dirección Xn – X0 (Aceleración).

192 Estrategia de Powell 3 Se halla un nuevo X0 optimizando f en la dirección Xn – X0 (Aceleración). 4 Se elimina la dirección d1 y se introduce una nueva: Xn – X0 d1 := d2; d2 := d3 ...; dn:= Xn – X0

193 Estrategia de Powell 3 Se halla un nuevo X0 optimizando f en la dirección Xn – X0 (Aceleración). 4 Se elimina la dirección d1 y se introduce una nueva: Xn – X0 d1 := d2; d2 := d3 ...; dn:= Xn – X0 5 Regresar a 2

194 Geométricamente u2 d2 d1 X0 u1

195 Geométricamente u2 d2 d1 X0 X1 u1

196 Geométricamente u2 X2 d2 d1 X0 X1 u1

197 Geométricamente u2 X0 X2 d2 d1 X0 X1 u1

198 Geométricamente u2 d1 X0 d2 X2 d2 d1 X0 X1 u1

199 Geométricamente u2 d1 X0 d2 X2 d2 d1 X1 X0 X1 u1

200 Geométricamente u2 d1 X0 d2 X2 X2 d2 d1 X1 X0 X1 u1

201 Geométricamente u2 d1 X0 d2 X2 X2 d2 d1 X1 X0 X0 X1 u1

202 Geométricamente u2 d1 d1 X0 d2 X2 X2 d2 d2 d1 X1 X0 X0 X1 u1

203 Geométricamente u2 d1 d1 X0 d2 X2 X2 d2 d2 d1 X1 X0 X0 X1 u1

204 Algoritmo

205 Algoritmo Se supone que f(X) es linealmente unimodal con máximo.

206 Algoritmo Se supone que f(X) es linealmente unimodal con máximo. Se desea hallar el punto de máximo de f(X) con error menor que 

207 Algoritmo Se supone que f(X) es linealmente unimodal con máximo. Se desea hallar el punto de máximo de f(X) con error menor que  Datos: n, f, X0, 

208 Algoritmo

209 Algoritmo for i = 1 to n di := ei end

210 Algoritmo for i = 1 to n di := ei end repeat

211 Algoritmo for i = 1 to n di := ei end repeat for i = 1 to n Xi := MaxBidirec (f, Xi-1, di) end

212 Algoritmo for i = 1 to n di := ei end repeat for i = 1 to n Xi := MaxBidirec (f, Xi-1, di) end for i = 1 to n - 1 di := di +1 end

213 Algoritmo for i = 1 to n - 1 di := di +1 end

214 Algoritmo for i = 1 to n - 1 di := di +1 end

215 Algoritmo for i = 1 to n - 1 di := di +1 end dn := Xn - X0

216 Algoritmo for i = 1 to n - 1 di := di +1 end dn := Xn - X0 dist := norma de dn

217 Algoritmo for i = 1 to n - 1 di := di +1 end dn := Xn - X0 dist := norma de dn dn := dn /dist

218 Algoritmo for i = 1 to n - 1 di := di +1 end dn := Xn - X0 dist := norma de dn dn := dn /dist X0 := MaxBidirec (f, Xi-1, di)

219 Algoritmo for i = 1 to n - 1 di := di +1 end dn := Xn - X0 dist := norma de dn dn := dn /dist X0 := MaxBidirec (f, Xi-1, di) until dist < 

220 Algoritmo for i = 1 to n - 1 di := di +1 end dn := Xn - X0 dist := norma de dn dn := dn /dist X0 := MaxBidirec (f, Xi-1, di) until dist <  El punto de máximo es X0

221 Algoritmo for i = 1 to n - 1 di := di +1 end dn := Xn - X0 dist := norma de dn dn := dn /dist X0 := MaxBidirec (f, Xi-1, di) until dist <  El punto de máximo es X0 Terminar

222 Ejemplo Hallar el punto de máximo de la función: Con error menor que 0,001

223 Ejemplo

224 Ejemplo

225 Ejemplo

226 Ejemplo

227 Ejemplo

228 Ejemplo

229 Ejemplo

230 Ejemplo

231 Ejemplo

232 Ejemplo

233

234 Bibliografía Texto: Secciones: 6.4, 6.5, 6.6 y 6.7

235 Ejercicios recomendados
Sección 6.5: 1 y 2 Sección 6.6: 1, 2 y 4 Sección 6.7: 1, 2 y 6