ANÁLISIS MULTIVARIANTE INTRODUCCIÓN         1. Álgebra lineal y vectores aleatorios         2. Distribución normal multivariante   ANÁLISIS DE LA MATRIZ DE COVARIANZAS         3. Componentes principales         4. Análisis factorial         5. Correlaciones canónicas CLASIFICACIÓN         6. Análisis discriminante         7. Análisis de conglomerados 1

ÁLGEBRA LINEAL Y VECTORES ALEATORIOS Vectores Ortogonalización de Gram-Schmidt Matrices ortogonales Autovalores y autovectores Formas cuadráticas Vectores y matrices aleatorias Matriz de datos        2

3 EJEMPLOS

Matriz de datos: p variables observadas en n objetos Vectores Matriz de datos: p variables observadas en n objetos 4 ALGEBRA LINEAL

Vectores Dados se define: 1. Suma 5 ALGEBRA LINEAL

2. Producto de un escalar por un vector Vectores 2. Producto de un escalar por un vector 3. Producto escalar de dos vectores 6 ALGEBRA LINEAL

Vectores Propiedades 4. Norma de un vector 7 ALGEBRA LINEAL

5. Distancia entre dos vectores 6. Ángulo entre dos vectores 8 ALGEBRA LINEAL

Desigualdad de Cauchy-Schwarz Vectores Desigualdad de Cauchy-Schwarz Consecuencia: 9 ALGEBRA LINEAL

{ } i e " = 1 Vectores 7. Ortogonalidad es ortogonal si 8. Ortonormalidad { } n e , 2 1 L es ortonormal si es ortogonal i e " = 1 y todos los vectores tienen norma 1, es decir, 10 ALGEBRA LINEAL

Vectores Ejemplo 11 ALGEBRA LINEAL

Un conjunto de vectores es linealmente independiente si =0 (la única manera de construir una combinación lineal igual a 0 es que todos los coeficientes sean 0) 12 ALGEBRA LINEAL

Todo conjunto ortogonal de vectores Proposición. Todo conjunto ortogonal de vectores no nulos es linealmente independiente. ortogonal l.i. Demostración 13 ALGEBRA LINEAL

Vectores Proyección de x sobre y y x pr 2 , ) ( = 14 ALGEBRA LINEAL

Vectores Ejemplo 15 ALGEBRA LINEAL

Ortogonalización de Gram-Schmidt ; Ì p V V subespacio vectorial de si V es espacio vectorial, es decir, si Dado A = Propiedades 16 ALGEBRA LINEAL

Ortogonalización de Gram-Schmidt Proposición Demostración 17 ALGEBRA LINEAL

Ortogonalización de Gram-Schmidt Dado un conjunto de vectores l.i., se puede construir otro conjunto ortogonal que genere el mismo espacio. Sean linealmente independientes 18 ALGEBRA LINEAL

Ortogonalización de Gram-Schmidt Entonces: 19 ALGEBRA LINEAL

Anxn; inversa A-1: A A-1 = A-1A = I. A’ transpuesta de A. Matrices ortogonales Matrices ortogonales Anxn; inversa A-1: A A-1 = A-1A = I. A’ transpuesta de A. Qnxn es ortogonal si Q’Q = QQ’ = I. (las columnas de una matriz ortogonal son vectores ortonormales) 20 ALGEBRA LINEAL

Matrices ortogonales Propiedades y Qx Qy x 21 ALGEBRA LINEAL

Autovalores y autovectores Anxn; autovalor de A x es autovector asociado a x Polinomio característico Ecuación característica 22 ALGEBRA LINEAL

Autovalores y autovectores Ejemplo Autovalores y autovectores de 23 ALGEBRA LINEAL

Autovalores y autovectores Propiedades Diagonalización de matrices 24 ALGEBRA LINEAL

Autovalores y autovectores: diagonalización Si A simétrica entonces existen autovalores reales con autovectores asociados ortonormales tales que P D P’ A=PDP’, siendo D diagonal y P ortogonal (Toda matriz simétrica es diagonalizable) 25 ALGEBRA LINEAL

Autovalores y autovectores: diagonalización Ejemplo Diagonalizar 26 ALGEBRA LINEAL

Autovalores y autovectores: representación espectral Sea Si A es simétrica entonces existen autovalores reales con autovectores ortonormales tales que 27 ALGEBRA LINEAL

Autovalores y autovectores: representación espectral Ejemplo Descomposición espectral de 28 ALGEBRA LINEAL

f(x)=x’ A x es una forma cuadrática Formas cuadráticas Anxn simétrica; , f(x)=x’ A x es una forma cuadrática 29 ALGEBRA LINEAL

Expresar matricialmente la forma cuadrática Formas cuadráticas Ejemplo Expresar matricialmente la forma cuadrática Escribir en forma cuadrática 30 ALGEBRA LINEAL

Como Anxn es simétrica, es diagonalizable, Formas cuadráticas Como Anxn es simétrica, es diagonalizable, se puede escribir A = PDP’ y, por tanto, queda: f(x) = x’PDP’x. Haciendo y = P’x: se tiene 31 ALGEBRA LINEAL

x’Ax=c2 representa geométricamente una elipse en ; los autovalores son Formas cuadráticas y los autovectores x’Ax=c2 representa geométricamente una elipse en ; los autovalores son normalizados son e1 y e2. x2 x1 y2 y1 e2 e1 32 ALGEBRA LINEAL

Representar, hallar los ejes y obtener la expresión reducida de Formas cuadráticas Ejemplo Representar, hallar los ejes y obtener la expresión reducida de 33 ALGEBRA LINEAL

Clasificación de formas cuadráticas Sea f(x) = x’ A x f es definida positiva si f es semidefinida positiva si f es semidefinida negativa si f es definida negativa si f es indefinida si 34 ALGEBRA LINEAL

Sean los autovalores de A f es definida positiva Formas cuadráticas Sean los autovalores de A f es definida positiva f es semidefinida positiva f es semidefinida negativa f es definida negativa f es indefinida 35 ALGEBRA LINEAL

Raíz cuadrada de una matriz A semidefinida positiva; B es raíz de A si A=BB; B=A1/2 ; A=A1/2 A1/2 Si A es simétrica y A=PDP’ con descomposición espectral entonces: 36 ALGEBRA LINEAL

Raíz cuadrada de una matriz: Formas cuadráticas Raíz cuadrada de una matriz: Nota: 37 ALGEBRA LINEAL

Descomposición singular de una matriz Dada la matriz Amxn, AA’ es cuadrada y simétrica; por tanto, diagonalizable. es un valor singular de A, si es autovalor de AA’. Descomposición singular Sea A una matriz mxn; valores singulares de A. Entonces existen matrices ortogonales U y V tales que: 38 ALGEBRA LINEAL

Vectores y matrices aleatorias aleatorio Matriz aleatoria 31

Vectores y matrices aleatorias Se llama vector de medias a: y covarianza entre dos variables a Se define la matriz de covarianzas de X como: 40

Vectores y matrices aleatorias

Vectores y matrices aleatorias Ejemplo 42 ALGEBRA LINEAL

Vectores y matrices aleatorias Propiedades Sea Xmxn y sean Akxm y Bnxr matrices de constantes. Entonces: 43

Vectores y matrices aleatorias Matriz de correlaciones donde en forma matricial: donde V es la matriz de varianzas: 44

Vectores y matrices aleatorias Partición de un vector aleatorio Sea Vector de medias: Matriz de covarianzas: , donde 45

Matriz de datos 46

Matriz de datos Vector de medias: Matriz de varianzas y covarianzas: donde Matriz de correlaciones: , donde 47

48 EJEMPLOS

49 EJEMPLOS

50 EJEMPLOS

51 EJEMPLOS

52 EJEMPLOS

53 EJEMPLOS

54 EJEMPLOS

Matriz de datos Proposición Dado 55

La matriz de datos se puede representar como: Diagrama de dispersión, n puntos en el espacio x1 x2 x3 p=2 p=3 x1 x2 Como para p>3 no es posible representarlo, se utilizan diagramas de dispersión múltiple con pares de variables. 56

Considerando las columnas en vez de la filas de la Matriz de datos Considerando las columnas en vez de la filas de la matriz de datos, es decir, p puntos en Y1 Y2 Y3 Yp Para cuatro variables: Y1 Y4 Y3 Y2 Y1 Y2 Y3 Y4 57

Matriz de datos Vector de unos: n unos Propiedades y forma el mismo ángulo con todos los ejes. es el vector unitario que forma el mismo ángulo en todas las direcciones. 58

Proyección de un vector sobre el vector Matriz de datos Proyección de un vector sobre el vector yi 1 59

Matriz de datos Vector de desviaciones a la media: 60

Matriz de datos Entonces: 61

Matriz de datos Varianza generalizada y varianza total: 62

Matriz de datos Varianza generalizada de X: Varianza total de X: Varianza generalizada muestral: Varianza total muestral: 63

Matriz de datos Interpretación geométrica Área = Varianza generalizada en 64

65 EJEMPLOS

66 EJEMPLOS

67 EJEMPLOS

Matriz de datos Combinaciones lineales de las componentes de una variable y las combinaciones lineales: Media muestral de c’X: Varianza muestral de c’X: Covarianza muestral de c’X y b’X: 68

Matriz de datos Ejemplo 69 ALGEBRA LINEAL

70 EJEMPLOS

71 EJEMPLOS

72 EJEMPLOS

73 EJEMPLOS

74 EJEMPLOS

75 EJEMPLOS

76 EJEMPLOS