Optimización de Procesos.

Presentación del tema: "Optimización de Procesos."— Transcripción de la presentación:

1 Optimización de Procesos

2 Tier I: Métodos Matemáticos de Optimización
Sección 3: Programación No Lineal

3 Introducción a la Programación No Lineal
Ya hemos hablado sobre los aspectos básicos de la programación no Lineal (nonlinear programming, NLP) en el capítulo de Introducción cuando consideramos la optimización no restringida.

4 Introducción a la Programación No Lineal
Anteriormente optimizamos funciones no lineales de una variable usando la 1a y 2a derivadas. Usaremos el mismo concepto aqui pero ahora extendido a funciones con más de una variable.

5 Optimización Multivariable No Restringida
Para funciones con una variable, usamos la 1a y 2a derivadas. Para funciones con múltiples variables, usamos información idéntica que es el gradiente y el Hessiano. El gradiente es la primera derivada con respecto a todas las variables, mientras que el Hessiano es el equivalente de la segunda derivada

6 El Gradiente Repaso del gradiente ():
Para una función “f ”, de variables x1, x2, …, xn: Ejemplo:

7 El Hessiano El Hessiano (2) de f(x1, x2, …, xn) es:

8 Ejemplo de Hessiano Ejemplo (de antes):

9 Optimización No Restringida
El procedimiento de optimización para funciones multivariables es: Resolver el gradiente de la función igual a cero para obtener puntos candidatos. Obtener el Hessiano de la función y evalúalo en cada uno de los puntos candidatos Si el resultado es "positivo definitivo" (será definido después) entonces el punto es un mínimo local. Si el resultado es un“negativo definitivo” (será definido después) entonces el punto es un máximo local.

10 Positivo/Negativo Definitivo
Una matriz es un “positivo definitivo” si todos los eigenvalores de la matriz son positivos (> 0) Una matriz es un “negativo definitivo” si todos los eigenvalores de la matriz son negativos (< 0)

11 Positivo/Negativo Semi-definitivo
Una matriz es un “positivo semi-definitivo” si todos los eigenvalores son no-negativos (≥ 0) Una matriz es un “negativo semi-definitivo” si todos los eigenvalores son no-positivos (≤ 0)

12 Esta matriz es un negativo definitivo
Matriz de Ejemplo Dada la matriz A: Los eigenvalores de A son: Esta matriz es un negativo definitivo

13 Ejemplo de NLP No Restringida
Considera el problema: Minimizar f(x1, x2, x3) = (x1)2 + x1(1 – x2) + (x2) – x2x3 + (x3)2 + x3 Primero, encontramos el gradiente con respecto a xi:

14 Ejemplo de NLP No Restringida
A continuación, igualamos el gradiente a cero: Entonces, tenemos un sistema de 3 ecuaciones y 3 incógnitas. Cuando resolvemos, obtenemos:

15 Ejemplo de NLP No Restringida
Así tenemos solo un punto candidato para verificar. Encuentra el Hessiano:

16 Ejemplo de NLP No Restringida
Los eigenvalores de esta matriz son: Todos los eigenvalores son > 0, entonces el Hessiano es un positivo definitivo. Entonces, el punto es un mínimo

17 Ejemplo de NLP No Restringida
A diferencia de la Programación Lineal, a menos que conozcamos la forma de la función a ser minimizada o podamos determinar si es convexa, no podemos decir si este punto es el mínimo global o si hay valores de función más pequeños.

18 Método de Solución En el ejemplo previo, cuando igualamos el gradiente a cero, tuvimos un sistema de 3 ecuaciones lineales y 3 incógnitas. Para otros problemas, estas ecuaciones pueden ser no lineales. Entonces, el problema se puede convertir en un sistema de ecuaciones no lineales, que puede ser muy difícil de resolver.

19 Método de Solución Para evitar esta dificultad, los problemas de NLP son usualmente resuletos numéricamente. Ahora veremos ejemplos de métodos numéricos usados para encontrar el punto óptimo para problemas de NLP de una sola variable. Estos y otros métodos pueden ser encontrados en cualquier referencia de métodos numéricos.

20 Método de Newton Al resolver la ecuación f (x) = 0 para encontrar un mínimo o un máximo, uno puede usar el paso de iteración: donde k es la iteración actual. La iteración se continua hasta que |xk+1 – xk| < e donde e es la tolerancia especificada.

21 Diagrama del Método de Newton
Tangente de f (x) en xk x x* xk+1 xk f (x) El método de Newton aproxima f (x) como una línea recta a xk y obtiene un nuevo punto (xk+1), que es usado para aproximar la función a la siguiente iteración. Esto es llevado a cabo hasta que el nuevo punto es suficientemente cercano a x*.

22 Comentarios del Método de Newton
Uno debe asegurar que f (xk+1) < f (xk) para encontrar un mínimo y f (xk+1) > f (xk) para encontrar un máximo. Desventajas: Tanto la primera como la segunda derivada deben ser calculadas El valor estimado inicial es muy importante – si no es suficientemente cercano a la solución, pudiera ser que el método no converja

23 Método Regula-Falsi Este método requiere dos puntos, xa y xb que que agrupan la solución a la ecuación f (x) = 0. Donde xc estará entre xa y xb. El siguiente intervalo será xc y xa o xb, cualquiera que tenga el signo opuesto a xc.

24 Diagrama Regula-Falsi
f (x) xa xc x x* xb El método Regula-Falsi aproxima la función f (x) como una línea recta e interpola para encontrar la raíz.

25 Comentarios del método Regula-Falsi
Este método requiere conocimiento inicial de dos puntos que limiten la solución Sin embargo, no requiere el cálculo de la segunda derivada El Método Regula-Falsi requiere ligeramente más iteraciones para converger que el Método de Newton

26 Optimización Multivariable
Ahora consideraremos la optimización multivariable no restringida Casi todos los métodos de optimización multivariable hacen lo siguiente: Eligen una dirección de búsqueda dk Minimizan a lo largo de esa dirección para encontrar un nuevo punto: donde k es el número de iteración actual y ak es un escalar positivo llamado tamaño de paso.

27 El Tamaño de Paso El tamaño de paso, ak, es calculado de la siguiente manera: Queremos minimizar la función f(xk+1) = f(xk +akdk) donde la única variable es ak porque xk y dk son conocidas. Establecemos y resolvemos para ak usando un método de solución de una sola variable como los mostrados previamente.

28 Método de Descenso más Inclinado
Este método es muy simple – usa el gradiente (para maximización) o el gradiente negativo (para minimización) como la dirección de búsqueda: for Entonces,

29 Método de Descenso Más Inclinado
Puesto que el gradiente es la velocidad de cambio de la función en ese punto, usar el gradiente (o gradiente negativo) como la dirección de búsqueda ayuda a reducir el número de iteraciones requeridas x2 f(x) = 5 -f(xk) f(x) = 20 f(xk) xk f(x) = 25 x1

30 Pasos del Método de Descenso Más Inclinado
Los pasos del Método de Descenso más Inclinado son: Elige un punto inicial x0 Calcula el gradiente f(xk) donde k es el número de iteración Calcula el vector de búsqueda: Calcula la siguiente x: Usa un método de optimización de una variable para determinar ak.

31 Pasos del Método de Descenso Más Inclinado
Para determinar la convergencia, usa alguna tolerancia dada e1 y evalúa: para convergencia O, usa otra tolerancia e2 y evalúa: para convergencia

32 Convergencia Estos dos criterios pueden ser usados para cualquiera de los métodos de optimización multivariable discutidos aquí Recordatorio: La normal de un vector, ||x|| está dada por:

33 Ejemplo del Método de Descenso Más Inclinado
Resolvamos el problema anterior con el Método del Descenso Más Inclinado: Minimizar f(x1, x2, x3) = (x1)2 + x1(1 – x2) + (x2) – x2x3 + (x3)2 + x3 Seleccionemos

34 Ejemplo del Método de Descenso Más Inclinado
Ahora, necesitamos determinar a0

35 Ejemplo del Método de Descenso Más Inclinado
A continuación, iguala a cero y resuelve:

36 Ejemplo del Método de Descenso Más Inclinado
Entonces,

37 Ejemplo del Método de Descenso Más Inclinado
Toma el gradiente negativo para encontrar la siguiente dirección de búsqueda:

38 Ejemplo del Método de Descenso Más Inclinado
Actualiza la fórmula de iteración:

39 Ejemplo del Método de Descenso Más Inclinado
Insertala en la función original y toma la derivada para encontrar a1:

40 Ejemplo del Método de Descenso Más Inclinado
Ahora podemos igualar la derivada a cero y resolver para a1:

41 Ejemplo del Método de Descenso Más Inclinado
Ahora, calcula x2:

42 Ejemplo del Método de Descenso Más Inclinado
Así,

43 Ejemplo del Método de Descenso Más Inclinado
Encuentra a2: Iguala la derivada a cero y resuelve:

44 Ejemplo del Método de Descenso Más Inclinado
Calcula x3:

45 Ejemplo del Método de Descenso Más Inclinado
Encuentra la siguiente dirección de búsqueda:

46 Ejemplo del Método de Descenso Más Inclinado
Encuentra a3:

47 Ejemplo del Método de Descenso Más Inclinado
Entonces, x4 se convierte en:

48 Ejemplo del Método de Descenso Más Inclinado
La siguiente dirección de búsqueda:

49 Ejemplo del Método de Descenso Más Inclinado
Encuentra a4:

50 Ejemplo del Método de Descenso Más Inclinado
Actualiza para x5:

51 Ejemplo del Método de Descenso Más Inclinado
Revisemos si el criterio de convergencia es satisfecho Evalúa ||f(x5)||:

52 Ejemplo del Método de Descenso Más Inclinado
Entonces, ||f(x5)|| = , que es muy pequeña y lo suficientemente cercana a cero para nuestro ejemplo Nota que la respuesta de es muy cercana al valor de que obtuvimos analíticamente

53 Funciones Cuadráticas
Las funciones cuadráticas son importantes para el siguiente método que veremos Una función cuadrática puede ser escrita en la forma: xTQx donde x es el vector de variables y Q es una matriz de coeficientes Ejemplo:

54 Método del Gradiente Conjugado
El Método del Gradiente Conjugado tiene la propiedad de que si f(x) es cuadrática, tomará exactamente n iteraciones para converger, donde n es el número de variables en el vector x Aunque funciona especialmente bien con funciones cuadráticas, este método también podrá funcionar con funciones no cuadráticas A

55 Pasos del Método del Gradiente Conjugado
Elige un punto inicial x0 y calcula f(x0). Deja d0 = -f(x0) Calcula x1 usando: Encuentra a0 realizando optimización de una variable en f(x0 +a0d0) usando los métodos discutidos anteriormente. (Observa la ilustración después del algoritmo de explicación)

56 Pasos del Método del Gradiente Conjugado
Calcula f(x1) y f(x1). La nueva dirección de búsqueda es calculada usando la ecuación: Esto puede ser generalizado para la iteración kth:

57 Pasos del Método del Gradiente Conjugado
Usa cualquiera de los dos métodos discutidos antes para determinar la tolerancia: O,

58 Número de Iteraciones Para funciones cuadráticas, este método convergerá en n iteraciones (k = n) Para funciones no cuadráticas, después de n iteraciones, el algoritmo se cicla nuevamente con dn+1 convirtiéndose en d0.

59 Tamaño de Paso para Funciones Cuadráticas
Al optimizar el tamaño de paso, podemos aproximar la función a optimizar de la siguiente manera: Para una función cuadrática, esta no es una aproximación – es exacta

60 Tamaño de Paso para Funciones Cuadráticas
Tomamos la derivada de la función con respecto a a e igualamos a cero: La solución a esta ecuación es:

61 Tamaño de Paso para Funciones Cuadráticas
Entonces, para el problema de optimizar una función cuadrática es el tamaño de paso óptimo. Para una función no cuadrática, esta es una aproximación del tamaño de paso óptimo.

62 Método Multivariable de Newton
Podemos aproximar el gradiente de f a un punto x0 usando: Podemos hacer el lado derecho de la ecuación igual a cero y rearreglar para obtener:

63 Método Multivariable de Newton
Podemos generalizar esta ecuación para dar una expresión iterativa del Método de Newton: donde k es el número de iteración

64 Pasos del Método de Newton
Elige un punto inicial, x0 Calcula f(xk) y 2f(xk) Calcula la siguiente x usando la ecuación Usa cualquiera de los criterios de convergencia discutidos anteriormente para determinar la convergencia. Si no ha convergido, regresa al paso 2.

65 Comentarios del Método de Newton
Podemos ver que a diferencia de los dos métodos previos, el Método de Newton usa ambos, el gradiente y el Hessiano Esto usualmente reduce el número de iteraciones requerido, pero aumenta el cálculo necesitado para cada iteración De esta manera, para funciones muy complejas, un método más simple es por lo general más rápido

66 Ejemplo del Método de Newton
Como ejemplo, usaremos el mismo problema que antes: Minimizar f(x1, x2, x3) = (x1)2 + x1(1 – x2) + (x2) – x2x3 + (x3)2 + x3

67 Ejemplo del Método de Newton
El Hessiano es: Y necesitaremos el inverso del Hessiano:

68 Ejemplo del Método de Newton
Entonces, elige Calcula el gradiente para la 1a iteración:

69 Ejemplo del Método de Newton
Así, la nueva x es:

70 Ejemplo del Método de Newton
Ahora calcula el nuevo gradiente: Puesto que el gradiente es cero, el método ha convergido

71 Comentarios del Ejemplo
Puesto que usa la 2a derivada, el Método de Newton modela funciones cuadráticas exactamente y puede encontrar el punto óptimo en una iteración. Si la función hubiera sido de mayor orden, el Hessiano no hubiera sido constante y se hubiera requerido mucho más trabajo para calcular el Hessiano y tomar el inverso para cada iteración.

72 Optimización Restringida No Lineal
Previamente en este capítulo, resolvimos problemas de NLP que solo tenían funciones objetivo, sin restricciones. Ahora veremos métodos sobre como resolver problemas que incluyen restricciones.

73 NLP con Restricciones de Igualdad
Primero, trataremos problemas que solo contienen restricciones de igualdad: Minimiza f(x) x = [x1 x2 … xn] Sujeta a: hi(x) = bi i = 1, 2, …, m

74 Ilustración Considera el problema: Minimiza x1 + x2
Sujeta a: (x1)2 + (x2)2 – 1 = 0 La región factible es un círculo con un radio de uno. Las posibles curvas de función objetivo son lines con pendiente de -1. El mínimo será el punto donde la línea más baja todavía toque el círculo.

75 Gráfica de Ilustración
Región Factible El gradiente de f apunta en la dirección de incremento de f f(x) = 1 f(x) = 0 f(x) =

76 Más sobre la Gráfica Puesto que las líneas de la función objetivo son líneas rectas paralelas, el gradiente de f es una línea recta apuntando en la dirección del incremento de f, que es a la derecha superior El gradiente de h estará apuntando fuera del círculo y su dirección dependerá del punto al que el gradiente es evaluado.

77 Más Detalles f(x) = 1 f(x) = 0 f(x) = -1.414 x2 Plano Tangente
Región Factible x1 f(x) = 1 f(x) = 0 f(x) =

78 Conclusiones En el punto óptimo, f(x) es perpendicular a h(x)
Como podemos ver en el punto x1, f(x) no es perpendicular a h(x) y podemos mover (bajar) para mejorar la función objetivo Podemos decir que en un max o min, f(x) debe ser perpendicular a h(x) De otra manera, podemos mejorar la función objetivo cambiando de posición

79 Condiciones Necesarias de Primer Orden
Entonces, para que un punto sea un mínimo (o un máximo), debe satisfacer la siguiente ecuación: Esta ecuación significa que f(x*) y h(x*) deben estar exactamente en direcciones opuestas en un punto mínimo o máximo

80 La función Lagrangiano
Para ayudar al usar este hecho, introducimos la Función Lagrangiano, L(x,l): Repaso: La notación x f(x,y) significa el gradiente de f con respecto a x. Entonces,

81 Condiciones Necesarias de Primer Orden
Así, usando la nueva notación para expresar las Condiciones Necesarias de Primer Orden (First Order Necessary Conditions, FONC), si x* es un mínimo (o máximo) entonces y para asegurar la factibilidad.

82 Condiciones Necesarias de Primer Orden (FONC)
Otra manera de verlo es que una Función Lagrangiano incluye toda la información sobre nuestro problema Entonces, podemos tratar el Lagrangiano como un problema de optimización no restringida con variables x1, x2, …, xn y l1, l2, …, lm. Podemos resolverlo al resolver las ecuaciones

83 Usando las FONC Usando las FONC para el ejemplo previo,
Y la primera ecuación FONC es:

84 Ejemplo de FONC Esto se vuelve: & La ecuación de factibilidad es: o,

85 Ejemplo de FONC Entonces, tenemos tres ecuaciones y tres incógnitas.
Cuando se resuelven simultáneamente, obtenemos Podemos ver de la gráfica que x1 y x2 positivas corresponden a un máximo, mientras que x1 y x2 negativas corresponden a un mínimo.

86 Observaciones de FONC Si regresas al capítulo de LP y revisas la definición matemática de las condiciones KKT, puedes notar que se parecen a las FONC que acabamos de usar Esto se debe a que es el mismo concepto Simplemente usamos una derivación ligeramente diferente esta vez, pero obtuvimos el mismo resultado

87 Limitaciones de FONC Las FONC no garantizan que las soluciones será mínimos/máximos. Como en el caso de la optimización no restringida, solo proveen puntos candidatos que deben ser verificados por las condiciones de segundo orden. Solo si el problema es convexo las FONC garantizan que las soluciones serán puntos extremos.

88 Condiciones Necesarias de Segundo Orden (Second Order Necessary Conditions, SONC)
Para donde y para cualquier y donde Si x*es un mínimo local, entonces

89 Condiciones Suficientes de Segundo Orden (Second Order Sufficient Conditions, SOSC)
y puede considerarse como un plano tangente tal como en el ejemplo gráfico mostrado anteriormente Jh es solo el gradiente de cada ecuación h(x) y vimos en el ejemplo que el plano tangente debe ser perpendicular a h(x) y por esa razón

90 Plano Tangente (todos los vectores y posibles)
El Vector y x3 x2 Plano Tangente (todos los vectores y posibles) x1 El plano tangente es la ubicación de todos los vectores y y se intersecta con x* Debe ser ortogonal (perpendicular) a h(x)

91 Problemas de Maximización
Las definiciones previas de SONC y SOSC son para problemas de minimización Para problemas de maximización, el sentido del signo de desigualdad debe ser invertido Para problemas de maximización: SONC: SOSC:

92 Necesario y Suficiente
Las condiciones necesarias son requeridas para que un punto sea un extremo pero incluso si son satisfechas, no garantizan que el punto es un extremo. Si las condiciones suficientes son reales, entonces se garantiza que el punto es un extremo. Pero si no se satisfacen, no significa que el punto no es un extremo.

93 Procedimiento Resuelve las FONC para obtener puntos candidatos.
Prueba los puntos candidatos con las SONC Elimina cualquier punto que no satisfaga las SONC Prueba los puntos restantes con las SOSC Los puntos que las satisfacen son min/max’s Para los puntos que no las satisfacen, no podemos decir si son puntos extremos o no

94 Problemas con Restricciones de Desigualdad
Consideraremos problemas como: Minimiza f(x) Sujeta a: hi(x) = 0 i = 1, …, m y gj(x) ≤ 0 j = 1, …, p Una restricción de desigualdad, gj(x) ≤ 0 es llamada “activa” en x* si gj(x*) = 0. Dejemos que el grupo I(x*) contenga todos los índices de las restricciones activas en x*: Para todo j en el grupo I(x*)

95 Usamos l’s para las igualdades y m’s para las desigualdades.
Lagrangianos para Problemas con Restricciones de Igualdad y Desigualdad El Lagrangiano está escrito: Usamos l’s para las igualdades y m’s para las desigualdades.

96 FONC para Restricciones de Igualdad y Desigualdad
Para el Lagrangiano general, las FONC se vuelven y la condición de soltura complementaria:

97 SONC para Restricciones de Igualdad y Desigualdad
Las SONC (para un problema de minimización) son: donde como antes. Ahora, J(x*) es la matriz de los gradientes de todas las restricciones de igualdad y solo las restricciones de desigualdad que están activas en x*.

98 SOSC para Restricciones de Igualdad y Desigualdad
Las SOSC para un problema de minimización con restricciones de igualdad y desigualdad son:

99 Ejemplo de Lagrangiano Generalizado
Resuelve el problema: Minimizar f(x) = (x1 – 1)2 + (x2)2 Sujeta a: h(x) = (x1)2 + (x2)2 + x1 + x2 = 0 g(x) = x1 – (x2)2 ≤ 0 El Lagrangiano para este problema es:

100 Ejemplo de Lagrangiano Generalizado
Las condiciones necesarias de primer orden:

101 Ejemplo de Lagrangiano Generalizado
Resolviendo las 4 ecuaciones FONC, obtenemos 2 soluciones: 1) y 2)

102 Ejemplo de Lagrangiano Generalizado
Ahora trabaja las SONC en la 1a solución: Tanto h(x) como g(x) están activas en este punto (ambas son iguales a cero). Entonces, el Jacobiano es el gradiente de ambas funciones evaluado en x(1):

103 Ejemplo de Lagrangiano Generalizado
La única solución a la ecuación: es: Y el Hessiano del Lagrangiano es:

104 Ejemplo de Lagrangiano Generalizado
Entonces, la ecuación SONC es: Esta desigualdad es verdadera, entonces la SONC es satisfecha para x(1) y aún es un punto candidato.

105 Ejemplo de Lagrangiano Generalizado
La ecuación SOSC es: Y solo calculamos el lado izquierdo de la ecuación para ser la matriz cero. Entonces, en nuestro caso para x2: Así, las SOSC no son satisfechas.

106 Ejemplo de Lagrangiano Generalizado
Para la segunda solución: Nuevamente, tanto h(x) como g(x) son activos en este punto. Entonces, el Jacobiano es:

107 Ejemplo de Lagrangiano Generalizado
La única solución a la ecuación: es: Y el Hessiano del Lagrangiano es:

108 Ejemplo de Lagrangiano Generalizado
Entonces, la ecuación SONC es: Esta desigualdad es verdadera, entonces la SONC es satisfecha por x(2) y aún es un punto candidato

109 Ejemplo de Lagrangiano Generalizado
La ecuación SOSC es: Y solo calculamos el lado izquierdo de la ecuación para ser la matriz cero. Entonces, en nuestro caso para x2: Así, las SOSC no son satisfechas.

110 Conclusiones del Ejemplo
De esta manera, podemos decir que tanto x(1) como x(2) pueden ser mínimos locales, pero no podemos estar seguros porque las SOSC no son satisfechas para ningún punto.

111 Métodos Numéricos Como pudiste observar de este ejemplo, el paso más difícil es resolver un sistema de ecuaciones no lineales para obtener los puntos candidatos. En vez de tomar gradientes de funciones, solvers automatizados de NLP usan varios métodos para transformar una NLP general en un problema de optimización más fácil.

112 Ejemplo de Excel Resolvamos el ejemplo previo con Excel:
Minimizar f(x) = (x1 – 1)2 + (x2)2 Sujeta a: h(x) = (x1)2 + (x2)2 + x1 + x2 = 0 g(x) = x1 – (x2)2 ≤ 0

113 Ejemplo de Excel Introducimos la función objetivo y las ecuaciones de restricción en la hoja de cálculo:

114 Ejemplo de Excel Ahora, abre la ventana de diálogo del solver en el menú Herramientas y especifica el valor de la función objetivo como la celda objetivo y elige la opción Min. Como está escrito, A3 y B3 son las celdas variables. Y las restricciones deben adicionarse – la restricción de igualdad y la restricción ≤.

115 Ejemplo de Excel La ventana del solver debe verse como sigue:

116 Ejemplo de Excel Este es un modelo no lineal, así que a diferencia de los ejemplos en el último capítulo, no elegiremos "Adoptar Modelo Lineal" en el menú opciones También, x1 y x2 no son especificadas como positivas, así que no marcamos la casilla de "Asumir no Negativos" Si se desea, la tolerancia puede ser disminuida hasta 0.1%

117 Ejemplo de Excel Cuando resolvemos el problema, la hoja de cálculo no cambia porque nuestro valor inicial de x1 = 0 y x2 = 0 es una solución óptima, como vimos cuando resolvimos el problema analíticamente.

118 Ejemplo de Excel Sin embargo, si elegimos valores iniciales de -1 para x1 y x2 as, obtenemos la siguiente solución:

119 Conclusiones Entonces, al variar los valores iniciales, podemos obtener los dos puntos candidatos que obtuvimos previamente Sin embargo, el solver NLP nos dice que ambos son puntos mínimos locales

120 Referencias El material de este capítulo ha sido tomado de:
Optimization of Chemical Processes 2nd Ed.; Edgar, Thomas; David Himmelblau; & Leon Lasdon.