INTRODUCCIÓN 1. Álgebra lineal y vectores aleatorios 2. Distribución normal multivariante ANÁLISIS DE LA MATRIZ DE COVARIANZAS 3. Componentes principales.

Presentación del tema: "INTRODUCCIÓN 1. Álgebra lineal y vectores aleatorios 2. Distribución normal multivariante ANÁLISIS DE LA MATRIZ DE COVARIANZAS 3. Componentes principales."— Transcripción de la presentación:

1 INTRODUCCIÓN 1. Álgebra lineal y vectores aleatorios 2. Distribución normal multivariante ANÁLISIS DE LA MATRIZ DE COVARIANZAS 3. Componentes principales 4. Análisis factorial 5. Correlaciones canónicas CLASIFICACIÓN 6. Análisis discriminante 7. Análisis de conglomerados ANÁLISIS MULTIVARIANTE 1

2 1.ÁLGEBRA LINEAL Y VECTORES ALEATORIOS  Vectores  Ortogonalización de Gram-Schmidt  Matrices ortogonales  Autovalores y autovectores  Formas cuadráticas  Vectores y matrices aleatorias  Matriz de datos 2

3 3 EJEMPLOS

4 ALGEBRA LINEAL Vectores Matriz de datos: p variables observadas en n objetos 4

5 ALGEBRA LINEAL Vectores Dados se define: 1. Suma 5

6 ALGEBRA LINEAL Vectores 2. Producto de un escalar por un vector 3. Producto escalar de dos vectores 6

7 ALGEBRA LINEAL Vectores 4. Norma de un vector Propiedades 7

8 ALGEBRA LINEAL Vectores 5. Distancia entre dos vectores 6. Ángulo entre dos vectores 8

9 ALGEBRA LINEAL Vectores Desigualdad de Cauchy-Schwarz Consecuencia: 9

10 ALGEBRA LINEAL Vectores 7. Ortogonalidad 8. Ortonormalidad es ortonormal si es ortogonal y todos los vectores tienen norma 1, es decir, es ortogonal si 10  n eee,,, 21  ie i  1

11 ALGEBRA LINEAL Vectores Ejemplo 11

12 ALGEBRA LINEAL Vectores Un conjunto de vectores es linealmente independiente si (la única manera de construir una combinación lineal igual a 0 es que todos los coeficientes sean 0) 12 =0

13 ALGEBRA LINEAL Vectores Proposición. Todo conjunto ortogonal de vectores no nulos es linealmente independiente. ortogonall.i. Demostración 13

14 ALGEBRA LINEAL Vectores Proyección de x sobre y 14 y y yx y yy yx xpr y 2,,, )( 

15 ALGEBRA LINEAL Vectores Ejemplo 15

16 ALGEBRA LINEAL Ortogonalización de Gram-Schmidt  V subespacio vectorial de si V es espacio vectorial, es decir, si  Dado A = Propiedades 16  p V

17 ALGEBRA LINEAL Ortogonalización de Gram-Schmidt Proposición Demostración 17

18 ALGEBRA LINEAL Ortogonalización de Gram-Schmidt Sean Dado un conjunto de vectores l.i., se puede construir otro conjunto ortogonal que genere el mismo espacio. linealmente independientes 18

19 ALGEBRA LINEAL Ortogonalización de Gram-Schmidt Entonces: 19

20 ALGEBRA LINEAL Matrices ortogonales  A nxn ; inversa A -1 : A A -1 = A -1 A = I.  A’ transpuesta de A.  Q nxn es ortogonal si Q’Q = QQ’ = I. (las columnas de una matriz ortogonal son vectores ortonormales) 20

21 ALGEBRA LINEAL Matrices ortogonales Propiedades Qy Qx y x 21

22 ALGEBRA LINEAL Autovalores y autovectores A nxn ; x autovalor de A x es autovector asociado a Polinomio característico Ecuación característica 22

23 ALGEBRA LINEAL Autovalores y autovectores Ejemplo Autovalores y autovectores de 23

24 ALGEBRA LINEAL Autovalores y autovectores Propiedades Diagonalización de matrices 24

25 ALGEBRA LINEAL Autovalores y autovectores: diagonalización Si A simétrica entonces existen autovalores reales con autovectores asociados ortonormales tales que P P’D A=PDP’, siendo D diagonal y P ortogonal (Toda matriz simétrica es diagonalizable) 25

26 ALGEBRA LINEAL Ejemplo Diagonalizar 26 Autovalores y autovectores: diagonalización

27 ALGEBRA LINEAL Autovalores y autovectores: representación espectral Sea con autovectores ortonormales tales que Si A es simétrica entonces existen autovalores reales 27

28 ALGEBRA LINEAL Ejemplo Descomposición espectral de 28 Autovalores y autovectores: representación espectral

29 ALGEBRA LINEAL Formas cuadráticas A nxn simétrica;, f(x)=x’ A x es una forma cuadrática 29

30 ALGEBRA LINEAL Formas cuadráticas Ejemplo Expresar matricialmente la forma cuadrática Escribir en forma cuadrática 30

31 ALGEBRA LINEAL Formas cuadráticas Como A nxn es simétrica, es diagonalizable, se puede escribir A = PDP’ y, por tanto, queda: f(x) = x’PDP’x. Haciendo y = P’x: se tiene 31

32 Formas cuadráticas x2x2 x1x1 y2y2 y1y1 e2e2 e1e1 ALGEBRA LINEAL 32 y los autovectores x’Ax=c 2 representa geométricamente una elipse en; los autovalores son normalizados son e 1 y e 2.

33 Formas cuadráticas ALGEBRA LINEAL 33 Ejemplo Representar, hallar los ejes y obtener la expresión reducida de

34 Formas cuadráticas Clasificación de formas cuadráticas ALGEBRA LINEAL 34 Sea f(x) = x’ A x  f es definida positiva si  f es semidefinida positiva si  f es semidefinida negativa si  f es definida negativa si  f es indefinida si

35 Formas cuadráticas Sean los autovalores de A  f es definida positiva  f es semidefinida positiva  f es semidefinida negativa  f es definida negativa  f es indefinida ALGEBRA LINEAL 35

36 Raíz cuadrada de una matriz B es raíz de A si A=BB; ALGEBRA LINEAL Raíz cuadrada de una matriz: A semidefinida positiva ; B=A 1/2 ; A=A 1/2 A 1/2 Si A es simétrica y A=PDP’ con descomposición espectral entonces: 36

37 Formas cuadráticas ALGEBRA LINEAL Raíz cuadrada de una matriz: Nota: 37

38 Descomposición singular de una matriz ALGEBRA LINEAL Dada la matriz A mxn, AA’ es cuadrada y simétrica; por tanto, diagonalizable. es un valor singular de A, sies autovalor de AA’. Descomposición singular Sea A una matriz mxn; valores singulares de A. Entonces existen matrices ortogonales U y V tales que: 38

39 Vectores y matrices aleatorias Vector aleatorio Matriz aleatoria 31

40 Vectores y matrices aleatorias Se llama vector de medias a: y covarianza entre dos variables a Se define la matriz de covarianzas de X como: 40

41 Vectores y matrices aleatorias

42 ALGEBRA LINEAL Ejemplo 42

43 Vectores y matrices aleatorias Propiedades Sea X mxn y sean A kxm y B nxr matrices de constantes. Entonces: 43

44 Vectores y matrices aleatorias Matriz de correlaciones en forma matricial: donde V es la matriz de varianzas: donde 44

45 Vectores y matrices aleatorias Partición de un vector aleatorio  Vector de medias: Sea  Matriz de covarianzas:, donde 45

46 Matriz de datos 46

47 Matriz de datos 47  Vector de medias:  Matriz de varianzas y covarianzas: donde  Matriz de correlaciones:, donde

48 48 EJEMPLOS

49 49

50 50 EJEMPLOS

51 51 EJEMPLOS

52 52 EJEMPLOS

53 53 EJEMPLOS

54 54 EJEMPLOS

55 Matriz de datos Proposición Dado 55

56 Matriz de datos 56 La matriz de datos se puede representar como:  Diagrama de dispersión, n puntos en el espacio x1x1 x2x2 p=2 x1x1 x2x2 x3x3 p=3 Como para p>3 no es posible representarlo, se utilizan diagramas de dispersión múltiple con pares de variables.

57 Matriz de datos 57  Considerando las columnas en vez de la filas de la matriz de datos, es decir, p puntos en Y 1 Y 2 Y 3 Y p Para cuatro variables: Y 1 Y 2 Y 3 Y 4 Y1Y1 Y4Y4 Y3Y3 Y2Y2

58 Matriz de datos 58  y forma el mismo ángulo con todos los ejes. Vector de unos: n unos Propiedades  es el vector unitario que forma el mismo ángulo en todas las direcciones.

59 Matriz de datos 59  Proyección de un vector sobre el vector yiyi 1

60 Matriz de datos 60 Vector de desviaciones a la media:

61 Matriz de datos 61 Entonces:

62 Matriz de datos 62 Varianza generalizada y varianza total:

63 Matriz de datos 63  Varianza generalizada de X:  Varianza total de X:  Varianza generalizada muestral:  Varianza total muestral:

64 Matriz de datos 64 Interpretación geométrica  Área =  Varianza generalizada en

65 65 EJEMPLOS

66 66 EJEMPLOS

67 67 EJEMPLOS

68 Matriz de datos 68 Combinaciones lineales de las componentes de una variable y las combinaciones lineales:  Media muestral de c’X:  Varianza muestral de c’X:  Covarianza muestral de c’X y b’X:

69 Matriz de datos 69 ALGEBRA LINEAL Ejemplo

70 70 EJEMPLOS

71 71 EJEMPLOS

72 72 EJEMPLOS

73 73 EJEMPLOS

74 74 EJEMPLOS

75 75 EJEMPLOS

76 76 EJEMPLOS