Multiple Camera Tracking of Interacting and Occluded Human Motion SHILOH L. DOCKSTADER, STUDENT MEMBER, IEEE, AND A. MURAT TEKALP, SENIOR MEMBER, IEEE PROCEEDINGS OF THE IEEE, VOL. 89, NO. 10, OCTOBER 2001

Estructura del sistema Tracking monocular: filtro predictor- corrector 2D. Fusión de vistas Filtro de kalman para trayectorias 3D

Tracking 2D Substracción del fondo Estimación “sparse” del movimiento –Estado : coordenadas de las features Clustering de la regiones foreground

características Características 2D: posiciones de ptos Vector de estado 3D Caracteristica 3D

Tracking 2D Tomamos las observaciones Junto con las estimaciones 3D Obtenemos una estimación del estado Con confianza

Fusion, red bayesiana Toma las estimaciones de los estados en cada vista La salida son Que maximizan la distribución conjunta Con un estimador de la covarianza del ruido

Seguimiento 3D La salida de la red bayesiana es la entrada a este módulo La salida es la predicción corregida del estado 3D La predicción 3D se proyecta para obtener predicciones en las vistas 2D

Implementación Cada cámara tiene un procesador dedicado que realiza el tracking 2D y la proyección de las coordenadas 3D para continuar la estimación. La red bayesiana y el filtro de Kalman 3D están en un procesador dedicado.

Seguimiento 2D Todas las ecuaciones se refieren a una vista en una cámara Se asume una detección de movimiento sparse sobre una malla de puntos Primer paso: predicción del estado 2D en base a la información 3D

Matriz de transición 3D Matriz de proyección de una cámara Estimación del error proyectando el error 3D Proyección del error 3D Cálculo de la matriz de ganancia –Depende de –Y una matriz de covarianza del ruido

Clases de correspondencias Clase A: el elemento es visible en la trama presente y pasada y existe una fuerte correlación temporal. Clase B: El elemento es visible en la trama anterior y la correspondencia temporal es débil. No se espera encontrar la cosa. Clase C: el objeto no es visible en la trama anterior.

Vector de movimiento en torno a una característica con origen conjuntos de puntos de cada clase La matriz de ganancia se construye

Observaciones (ver figura 2)

comentarios Una característica completamente visible tiene tratamiento normal. Para las características ocluidas se desarrolla un algoritmo de minimos cuadrados que estima su posición.

op Estimacion del estado 2D mediante el filtro de kalmann

Integración espacial Variables aleatorias de media cero. D.d.p de los estados Cjto de variables usadas en caso de oclusión

Integración espacial La red bayesiana estima la posición resolviendo: Se puede descomponer la ddp a posteriori de varias maneras Ruido de reconstruccion 3D Ruido de observación. Los demas tienen el significado de reconstrucciones parciales

Integracion espacial Caso extremo: fuentes independientes Caso general: descomposición dependiente de l solapamiento entre vistas Ordenación de las vistas en BBN

Proceso de muestreo aleatorio para generar modelos del ruido al proyectar del plano imagen al mundo y viceversa.

Construccion del modelo de integración

Observaciones tracking 3D Las caract. de clase A se siguen de la misma manera que con el filtro de Kalman usual Caracteristicas con oclusiones

Integración temporal: kalman 3D Vector de caracteristicas 3D: velocidad y posición Posiciones de las caracteristicas velocidades Estimación de estados con movimiento lineal

Matriz de covarianza del error Matriz de ganancia de Kalmann Ecuaciones de correccion del estado y el error de prediccion