Inteligencia Artificial Adquisición automática del conocimiento

Presentación del tema: "Inteligencia Artificial Adquisición automática del conocimiento"— Transcripción de la presentación:

1 Inteligencia Artificial Adquisición automática del conocimiento
Primavera 2008 profesor: Luigi Ceccaroni

2 Adquisición del conocimiento
Marco de referencia: proceso de construcción de un sistema basado en el conocimiento: Adquisició de coneixement Representació de coneixement Mètode de resolució Construcció de motors d’inferència 2

3 Adquisición del conocimiento
Adquisició del coneixement ≡ Traspàs del coneixement d’un o més experts (o fonts de coneixement) en un domini determinat, cap a un formalisme de representació computable del coneixement Base de coneixement FC1 ≡ Expert1 FCn ≡ Expertn Enginyer del coneixement Domini (fets, relacions, associacions) Procés de resolució (heurístiques, mètodes) Coneixement 3

4 Metodologías para la adquisición de conocimiento
Com obtenir el coneixement? Interacció amb entrevistes Eines automàtiques d’explicitació de coneixements Tècniques basades en l’aprenentatge automàtic inductiu Construcció d’arbres de decisió: Els nodes representen atributs. Les branques representen els possibles valors de l’atribut. 4

5 Aprendizaje automático inductivo
Tècniques orientades a problemes d’anàlisi (classificació/interpretació) L’expert expressa el seu coneixement en una forma habitual per a ell: observacions/exemples Es transforma aquesta representació en la del sistema. Es requereix una validació de l’expert. 5

6 Aprendizaje automático inductivo
Exemple: dades sobre un gimnàs 6

7 Aprendizaje automático inductivo
Objectiu: Agrupar objectes semblants Hi ha poca informació del domini i es vol començar a tenir-ne una idea més clara. Tècniques: Mètodes d’agrupació (clustering) Exemple: Es descobreix que hi ha dues agrupacions: Classe 1 Classe 2 7

8 Aprendizaje automático inductivo
Objectiu: Classificar nous objectes Es parteix d’una situació més informada, sabent que existeixen grups ja definits. Determinar les característiques peculiars de cada grup, per poder ubicar un nou objecte en la classe que li correspon. 8

9 Aprendizaje automático inductivo
Mètodes: Arbres de decisió: CART, ID3, ASSISTANT, C4.5, C5.1 Regles de classificació: If Act1 is steps Then Act2 is ioga Rule's probability: 0.9 The rule exists in 52 records 9

10 Arboles de decisión Té tos Nada Mucha Poca Té mucositat Pols alterat
Té febre Sí No Sí No No Sí Decisión 1 Decisión 2 Decisión 3 Decisión 4 Decisión 5 Decisión 6

11 ID3 ID3 ≡ Induction Decision Tree [Quinlan, 1979, 1986]
Tècnica d’aprenentatge automàtic Inducció d’arbres de decisió Estratègia top-down A partir d’un conjunt d’exemples/instàncies i la classe a la qual pertanyen, crea l’arbre de decisió millor que expliqui les instàncies. 11

12 El millor és el més discriminant (potencialment més útil)
ID3 Es un algoritmo voraz para la construcción automática de arboles de decisión, que selecciona en cada paso el mejor atributo. → El millor és el més discriminant (potencialment més útil) 12

13 ID3 El procés de construcció és iteratiu:
Es selecciona un subconjunt (finestra) de exemples del conjunt d’entrenament (training set). Es construeix l’arbre de decisió que permeti discriminar el conjunt d’exemples de la finestra. Si l’arbre de decisió induït explica la resta d’exemples del conjunt d’entrenament, Llavors l’arbre de decisió es el definitiu, Sinó els exemples mal classificats (excepcions) s’afegeixen a la finestra i es torna a (2). fSi

14 ID3: idea básica Seleccionar en cada paso el atributo que discrimina más: Permite reducir el tamaño del árbol de decisión. La selección se hace maximizando una cierta función G(X,A), que representa la ganancia de información. 14

15 Ganancia de información
Cantidad de información (X = ejemplos, C = clasificación): Entropía (A = atributo, [A(x) = vi ] = ejemplos con valor vi ): Ganancia de información:

16 ID3: ejemplo

17 ID3: ejemplo I (X, C) = -1/2 log2 1/2 -1/2 log2 1/2 = 1
(1,2,5,8) (3,4,5,7) C C- E (X, Ulls) = 3/8 (-1 log log2 0) + 2/8 (-0 log log2 1) + 3/8 (-1/3 log2 1/3 - 2/3 log2 2/3) = 0.344 E (X, Cabell) = 2/8 (-1/2 log2 1/2 - 1/2 log2 1/2) + 6/8 (-3/6 log2 3/6 - 3/6 log2 3/6) = 1 E(X, Estatura) = 2/8 (-1 log log2 0) + 4/8 (-1/2 log2 1/2 - 1/2 log2 1/2) + 2/8 (-0 log log2 1) = 0.5 17

18 ID3: ejemplo G (X, Ulls) = 1 - 0.366 = 0.656 G (X, Cabell) = 1 - 1 = 0
G (X, Estatura) = = 0.5 Ulls 1,2, , ,7, 5 Verds Blaus Marrons Cabell Estatura Classe E4 Moreno Mitjà C- E5 Moreno Alt C+ E7 Ros Baix C-

19 ID3: ejemplo I (X, C) = -1/3 log2 1/3 -2/3 log2 1/3 = 0,918 (5) (4,7)
(5) (4,7) E (X, Cabell) = 1/3 (- 0 log log2 1) + 2/3 (-1/2 log2 1/2 - 1/2 log2 1/2) = 2/3 E (X, Estatura) = 1/3 (-0 log log2 1) + 1/3 (-1 log log2 0) + 1/3 (-0 log log2 1) = 0 G (X, Cabell) = 0, ,666 = 0,252 G (X, Estatura) = 0, = 0,918 Ros

20 ID3: ejemplo Ulls 1,2,8 3,6 4,7, 5 + - - + Estatura 5 4 7 + - - Blaus
Verds Marrons 1,2, , ,7, 5 Estatura baix Alt Mitjà

21 ID3: ejemplo Ulls = Blaus → C+ Ulls = Marrons → C-
Ulls = Verds ∧ Estatura = Alt → C+ Ulls = Verds ∧ Estatura = Mitjà → C- Ulls = Verds ∧ Estatura = Baix → C-

22 ID3: algoritmo

23 Tipos de aprendizaje Aprendizaje inductivo: Creamos modelos de conceptos a partir de generalizar ejemplos simples. Buscamos patrones comunes que expliquen los ejemplos. Aprendizaje analítico o deductivo: Aplicamos la deducción para obtener descripciones generales a partir de un ejemplo de concepto y su explicación.

24 Tipos de aprendizaje Aprendizaje genético: Aplica algoritmos inspirados en la teoría de la evolución para encontrar descripciones generales a conjuntos de ejemplos. Aprendizaje conexionista: Busca descripciones generales mediante el uso de la capacidad de adaptación de redes de neuronas artificiales.