INFSO-RI Enabling Grids for E-sciencE Gestión de trabajos en Glite Álvaro Fernández Casaní (IFIC – CSIC) Curso Grid y E-ciencia Julio 2008

Enabling Grids for E-sciencE INFSO-RI Sesión 1ª Parte ( 2 horas ) –Presentación y contenidos básicos ( 45’)  ¿Por qué se necesita gestión de trabajos en Grid?  Arquitectura en Glite (WMS)  Funcionalidad básica para el usuario.  Fases y Estados de los trabajos.  Errores típicos –Prácticas ( 1 h) (descanso) 2ª Parte ( 2 horas ) –Contenidos avanzados y continuación prácticas

Enabling Grids for E-sciencE INFSO-RI Contenidos Introducción: Gestión de trabajos Workload Management System (WMS) Uso del WMS: –Envío de trabajos –Fases y Estados de los trabajos –Comandos útiles Arquitectura interna del WMS Tests y Rendimiento Algoritmos de Planificación

Enabling Grids for E-sciencE INFSO-RI Gestión de Trabajos ¿Qué es la gestión de trabajos y recursos dentro del Grid? ¿Por qué es importante? –Facilita la utilización al usuario –Coordina la utilización de los recursos –Más Rapidez –Más Efectividad ¿Cuáles son los retos y dificultades? –Falta de control sobre los recursos –Múltiples capas de planificadores –Recursos compartidos y varianza –Conflictos en los objetivos de rendimiento

Enabling Grids for E-sciencE INFSO-RI Gestión de trabajos Ejemplo: –usuario –Sistema Operativo –Gestor Local ( de trabajos batch/interactivos) Objetivo: ejecución automática de nuestros programas en un entorno grid. –fácilmente –De forma confiable y eficiente –¿Podemos lograr pulsar un botón y obtener los resultados esperados? Necesitaríamos algo como un Sistema Operativo distribuido, salvando dificultades extras… Aún no hay solución definitiva, de momento el Middleware Grid proporciona las partes básicas necesarias.

Enabling Grids for E-sciencE INFSO-RI Conceptos Trabajos –similar a un proceso. Recursos: –Computacionales, almacenamiento, datos, red, … Middleware Grid: –Unifica componentes diferentes, dando acceso a estos recursos y coordinando. Planificador bajo y alto nivel –Planificadores Locales: gestionan la carga en un dominio local. –Planificador de alto nivel(grid): mandan trabajos a los planificadores locales.

Enabling Grids for E-sciencE INFSO-RI Globus Planificador básico sería el usuario mismo Globus da el middleware básico para crear infraestructura grid  Pre-Webservices ( versión usada actualmente por gLite)  SOA (globus >= 4.0) Capas y componentes que da los servicios básicos:  Transferencia datos (GridFtp), Autenticación/Autoriza cion (proxies x.509), Sistema de informacion básico (MDS)

Enabling Grids for E-sciencE INFSO-RI Globus ¿Objetivo alcanzado? NO ES SUFICIENTE, Para coordinar componentes y automatizar estas fases nos falta: –Brokering o Gestión de recursos automática –Monitorización y reenvío de aplicaciones fallidas –Integración con sistemas de replicas de datos, … –En definitiva:  Worload Management System (WMS) o gestores de carga y trabajos, que coordinan las capas básicas para lograr nuestros objetivos. User Nodes

Enabling Grids for E-sciencE INFSO-RI Planificación de trabajos ¿Qué hacer para ejecutar un trabajo grid? Best-effort 3 grandes fases: –Descubrimiento de recursos –Recolección de información y Selección –Ejecución del trabajo Fase 1: Descubrimiento de recursos –Filtrado autorizaciones –Requerimientos de las aplicaciones –Filtrado de requerimientos mínimos

Enabling Grids for E-sciencE INFSO-RI Planificación de trabajos (2) Fase 2: Recolección de información y Selección –Recopilación de información dinámica –Selección y planificación Fase 3: Ejecución –Reserva (opcional) –Envío del trabajo –Tareas preparatorias –Ejecución y monitorización –Finalización y obtención de resultados –Tareas de Limpieza

Enabling Grids for E-sciencE INFSO-RI Hasta ahora como se envian trabajos con globus? Usar el Information System para ver que recursos (CEs) están disponibles: lcg-infosites --vo gilda ce #CPU Free Total Jobs Running Waiting ComputingElement grid011f.cnaf.infn.it:2119/jobmanager-lcgpbs-short grid011f.cnaf.infn.it:2119/jobmanager-lcgpbs-long grid011f.cnaf.infn.it:2119/jobmanager-lcgpbs-infinite grid010.ct.infn.it:2119/jobmanager-lcgpbs-short grid010.ct.infn.it:2119/jobmanager-lcgpbs-long grid010.ct.infn.it:2119/jobmanager-lcgpbs-infinite …….[30% shown]. Ver cual conviene, enviar con comandos globus (veremos en practicas): –globus-job-run iceage-ce-01.ct.infn.it:2119/jobmanager-lcgpbs - q long /bin/hostname

Enabling Grids for E-sciencE INFSO-RI Comprobar que el trabajo ha acabado bien, reenviar en caso contrario… Esto para cada trabajo, cada usuario. Es necesario automatizar todas las tareas…

Enabling Grids for E-sciencE INFSO-RI WMS – Workload Management System WMS gestiona los trabajos en nombre del usuario Usuario no tiene por qué decidir dónde corren los trabajos Usuario define el trabajo y requerimientos. WMS gestiona todo el proceso Resultado: Envío fácil Usuario separado de cambios en los recursos WMS balancea la carga a nivel global UserWMS Compute Elements

Enabling Grids for E-sciencE INFSO-RI WMS CEs Local Workstation UI UI (user interface) has preinstalled client software WMS User describes job in text file using Job Description Language Submits job to WMS using (usually) the command-line interface ssh Workload Management System

Enabling Grids for E-sciencE INFSO-RI Topologia del Grid y WMS Computing Element Storage Element Site X Information System submit query retrieve User Interface publish state File and Replica Catalogs Authorization Service query update credential publish state discover services

Enabling Grids for E-sciencE INFSO-RI Servicios Importantes: User Interface (UI) Punto de entrada al grid Cliente de –Servicios Globus (GSI, MDS/openldap, Gram, GridFtp, GASS,..) –Proxy Server –WMS (wmproxy client)  Envío de trabajos  Monitorización  Obtención de salida –Data Management (LFC)  Copia y registro  Réplica –Servicios de información ( II, BDII, R-GMA) Librerías de programación y APIs disponibles ( C++, Java) –Adicionalmente librerías mpi, openssl, … UI JDL

Enabling Grids for E-sciencE INFSO-RI Computing Element flavours  LCG-CE (GT4 pre-WS GRAM) –Globus client, Condor-G –Globus code not modified  CREAM (WS-I) –CREAM client, ICE –Condor-G (collaboration with Condor team) –BES (collaboration with OMII-EU for new BES 1.0 support)  Condor-C (was in gLite-CE) –Condor-G –Maintained by Condor –VDT includes BLAH & glexec BLAH is the interface to the local resource manager (via plug-ins) Condor-G Globus client gLite WMS User CREAM CEMon ICE CREAM or BES client EGEE authZ, InfoSys, Accounting In production Existing prototype gLite component non-gLite component Batch System LCG-CE (GT2/4 + add-ons) Condor-C BLAH User / Resource UI Site GIP

Enabling Grids for E-sciencE INFSO-RI Usar WMS Trabajos corren en batch mode en el grid. Pasos: 1.Crear Fichero de texto en “Job Description Language” 2.Comprobación opcional: list the compute elements that match your requirements (“list match” command) 3.Enviar el trabajo ~ “glite-wms-job-submit myfile.jdl” Non-blocking – Cada trabajo da un identificador. 4.Comprobar el estado del trabajo 5.Obtener el resultado del trabajo

Enabling Grids for E-sciencE INFSO-RI UI WMproxy Job Contr. Workload Manager LFC Inform. Service Computing Element Storage Element WMS node Characts. & status Job submission

Enabling Grids for E-sciencE INFSO-RI UI WMproxy Job Contr. - CondorG Workload Manager LFC Inform. Service Computing Element Storage Element RB node CE characts & status SE characts & status Glite-wms-job-submit myjob.jdl Myjob.jdl JobType = “Normal”; Executable = "$(CMS)/exe/sum.exe"; InputSandbox = {"/home/user/WP1testC","/home/file*”, "/home/user/DATA/*"}; OutputSandbox = {“sim.err”, “test.out”, “sim.log"}; Requirements = other. GlueHostOperatingSystemName == “linux" && other. GlueHostOperatingSystemRelease == "Red Hat 7.3“ && other.GlueCEPolicyMaxCPUTime > 10000; Rank = other.GlueCEStateFreeCPUs; submitted Job Status Job Description Language (JDL) to specify job characteristics and requirements Job submission

Enabling Grids for E-sciencE INFSO-RI UI WMproxy Job Contr. - CondorG Workload Manager LFC Inform. Service Computing Element Storage Element RB node CE characts & status SE characts & status RB storage Input Sandbox files Job waiting submitted Job Status WMproxy : network daemon responsible for accepting incoming requests Job submission

Enabling Grids for E-sciencE INFSO-RI Job submission UI WMproxy Job Contr. - CondorG LFC Inform. Service Computing Element Storage Element RB node CE characts & status SE characts & status RB storage waiting submitted WM: acts to satisfy the request Job Workload manager

Enabling Grids for E-sciencE INFSO-RI Job submission UI WMproxy Job Contr. - CondorG Workload Manager LFC Inform. Service Computing Element Storage Element RB node CE characts & status SE characts & status RB storage waiting submitted Match- Maker/ Broker Where must this job be executed ? Fase 1: Descubrimiento Recursos

Enabling Grids for E-sciencE INFSO-RI Job submission UI WMproxy Job Contr. - CondorG Workload Manager LFC Inform. Service Computing Element Storage Element RB node CE characts & status SE characts & status RB storage waiting submitted Match- Maker/ Broker Matchmaker: responsible to find the “best” CE for a job Fase 1: Descubrimiento Recursos Filtrado autorizaciones Requerimientos de las aplicaciones Filtrado de requerimientos mínimos

Enabling Grids for E-sciencE INFSO-RI Job submission UI WMproxy Job Contr. - CondorG Workload Manager LFC Inform. Service Computing Element Storage Element RB node CE characts & status SE characts & status RB storage waiting submitted Match- Maker/ Broker Where are (which SEs) the needed data ? What is the status of the Grid ? Fase 1: Descubrimiento Recursos Filtrado autorizaciones Requerimientos de las aplicaciones Filtrado de requerimientos mínimos Fase 2: Caracterización Información dinámica

Enabling Grids for E-sciencE INFSO-RI Job submission UI WMproxy Job Contr. - CondorG Workload Manager LFC Inform. Service Computing Element Storage Element RB node CE characts & status SE characts & status RB storage waiting submitted Match- Maker/ Broker CE choice Fase 2: Selección y planificación

Enabling Grids for E-sciencE INFSO-RI Job submission UI WMproxy Job Contr. - CondorG Workload Manager LFC Inform. Service Computing Element Storage Element RB node CE characts & status SE characts & status RB storage waiting submitted Job Adapter Job Adapter: responsible for the final “touches” to the job before performing submission (e.g. creation of wrapper script, PFN, etc.) Fase 2: Selección y planificación

Enabling Grids for E-sciencE INFSO-RI Fase 2: Selección y planificación Job submission UI WMproxy Job Contr. Workload Manager LFC Inform. Service Computing Element Storage Element RB node CE characts & status SE characts & status RB storage Job Controller: responsible for the actual job management operations (done via CondorG) Job submitted waiting ready

Enabling Grids for E-sciencE INFSO-RI Job submission UI WMproxy Job Contr. - CondorG Workload Manager LFC Inform. Service Computing Element Storage Element RB node CE characts & status SE characts & status RB storage Job submitted waiting ready scheduled Fase 3: Ejecución Reserva (opcional) Envío del trabajo

Enabling Grids for E-sciencE INFSO-RI Detalle del Computing Element (CE) Homogeneous set of worker nodes Grid gate node Local resource management system: Condor / PBS / LSF master Globus gatekeeper Job request Info system Logging gridmapfile I.S. Logging

Enabling Grids for E-sciencE INFSO-RI Job submission UI Network Server Job Contr. - CondorG Workload Manager Replica Location Server Inform. Service Computing Element Storage Element RB node RB storage Job Status submitted waiting ready scheduled running “Grid enabled” data transfers/ accesses Job Input Sandbox files Fase 3: Ejecución Tareas preparatorias Ejecución y monitorización

Enabling Grids for E-sciencE INFSO-RI Job submission UI Network Server Job Contr. - CondorG Workload Manager Replica Location Server Inform. Service Computing Element Storage Element RB node RB storage Job Status Output Sandbox files submitted waiting ready scheduled running done Fase 3: Ejecución Finalización y obtención de Resultados (1) Tareas de Limpieza (1)

Enabling Grids for E-sciencE INFSO-RI Reenvío Automático de trabajos Si el trabajo falla puede deberse a varias causas: –Error del WMS –Error del middleware globus –Error del recurso remoto ( Máquina caída, mal configurada, error del SO) –Error del trabajo mismo Se puede configurar el reenvío automático (a otro recurso). El máximo de reenvíos sera el minimo entre: –Parámetro del JDL:  RetryCount = (1 para envío único, por defecto es 3) –Parámetro de configuración del WMS:  MaxRetryCount

Enabling Grids for E-sciencE INFSO-RI Consultar estado del trabajo Para controlar el estado actual del trabajo: glite-job-status [–verbosity 0|1|2 ] [--vo ] [-i ] –--verbosity cantidad de información entre 0 (menos) y 2 (más información) –-c fichero de configuración –-vo the Virtual Organization (si el usuario quiere elegirla) –-i Fichero contiene los job_ids de los trabajos a consultar

Enabling Grids for E-sciencE INFSO-RI Resultados del trabajo Para obtener los ficheros de salida del trabajo: glite-wms-job-output [-i ] –-i Fichero contiene los job_ids de los trabajos a consultar – contiene los identificadores de los trabajos

Enabling Grids for E-sciencE INFSO-RI Obtener resultados UI Network Server Job Contr. - CondorG Workload Manager Replica Location Server Inform. Service Computing Element Storage Element RB node RB storage Job Status submitted waiting ready scheduled running done Glite-wms-job-output

Enabling Grids for E-sciencE INFSO-RI Obtener resultados UI Network Server Job Contr. - CondorG Workload Manager Replica Location Server Inform. Service Computing Element Storage Element RB node RB storage Job Status Output Sandbox files submitted waiting ready scheduled running done cleared Fase 3: Ejecución Finalización y obtención de Resultados (2) Tareas de Limpieza (2)

Enabling Grids for E-sciencE INFSO-RI Otros comandos útiles: Historial Además del estado actual (glite-wms-job-status), podemos conocer el historial de los trabajos con: glite-job-get-logging info [–v 0|1|2 ] [--vo ] [-i ] –-v cantidad de información entre 0 (menos) y 2 (más información) –-c fichero de configuración –-vo the Virtual Organization (si el usuario quiere elegirla) –-i Fichero contiene los job_ids de los trabajos a consultar Puede dar mucha información, pero puede ser dificil interpretarla para descubrir errores: –Para identificar errores del trabajo, utilizar la salida estándar del mismo –Para identificar errores de mw y del testbed en general puede utilizarse: y también con algun truco los logs del CE, RB, … (no demasiado “amigable”)

Enabling Grids for E-sciencE INFSO-RI Job monitoring UI Log Monitor Logging & Bookkeeping Network Server Job Contr. - CondorG Workload Manager Computing Element RB node LM: parses CondorG log file (where CondorG logs info about jobs) and notifies LB LB: receives and stores job events; processes corresponding job status Log of job events glite-job-status glite-job-get-logging-info Job status

Enabling Grids for E-sciencE INFSO-RI Estados de un trabajo

Enabling Grids for E-sciencE INFSO-RI Otros comandos útiles: Lista recursos Para listar los recursos compatibles: Glite-wms-job-list-match [--rank] [-c ] [-vo ] [-o ] –Devuelve una lista de recursos (CEs) compatibles, ordenados por el rank –--rank devuelve el valor numérico calculado –-c fichero de configuración –-vo the Virtual Organization (si el usuario quiere elegirla) –-o la lista se guarde en

Enabling Grids for E-sciencE INFSO-RI WMS - The big picture

Enabling Grids for E-sciencE INFSO-RI Componentes del WMS Task queue –To keep submission requests if resources are not available –Matchmaking of jobs in the queue is tried periodically or upon resource availability changes (through ISM) Information Super Market (ISM) –Decouples information collection from its use –Updated by:  Notification of availability from gLite CE  Information Systems through ISM updater –Notifications from CE can trigger matchmaking Job submission –Using Globus GRAM (classic CE) –Using Condor-C (gLite CE)

Enabling Grids for E-sciencE INFSO-RI Servidor WMS/Resource Broker Recibe los trabajos y realiza las acciones adecuadas hasta su ejecución. Compuesto por varios demonios en la misma máquina: WMPROXY: recibe las peticiones del UI –Componentes Globus GSI/openssl para autenticación y autorización. –Recibe el trabajo y sus ficheros necesarios. Devuelve los ficheros de salida (a través de Globus GASS y gridFTP). –Recibe el proxy del usuario, y hace de interfaz con el ProxyServer para la renovación periódica. –Guarda el trabajo en una cola permanente.

Enabling Grids for E-sciencE INFSO-RI Resource Broker (2) Workload Manager (WM):Coordina la ejecución del trabajo –Obtiene trabajos de la cola permanente y va actualizando su estado. –Llama al Matchmaker para obtener recursos compatibles. –Selecciona el mejor dependiendo de la política utilizada. –Con los recursos llama al JobAdapter y después al JobController. MatchMaker (MM): busca recursos (CE) compatibles –Interfaz con el Sistema de Información, y de Data Management –Utiliza Condor ClassAds y matchmaking entre trabajos y recursos. –Implementa los algoritmos de selección de recursos. –Devuelve una lista de recursos compatibles

Enabling Grids for E-sciencE INFSO-RI Resource Broker (3) Job Adapter (JA): prepara el trabajo para la ejecución –Crea los scripts necesarios para ejecutar el trabajo en algún WN del CE seleccionado. Los wrapper scripts  Obtienen los ficheros de entrada necesarios del WMS y del Data Management Service  Establecen las variables de entorno necesarias.  Invocan correctamente el ejecutable del trabajo (normal, mpi,..)  Informan de cambios y posibles errores (ver siguiente L&B)  Upload de los ficheros de salida de usuario al WMS  Registro de posibles réplicas de datos de salida con Data Management Service  Acciones de limpieza al finalizar Job Controller (JC): interfaz con Condor-G –Envío fiable de trabajos a recursos globus, cancelación,.. –LogMonitor (LM), capta eventos importantes de Condor-G

Enabling Grids for E-sciencE INFSO-RI Logging & Bookeping (L&B) Almacena información sobre la ejecución de los trabajos –El estado actual de un trabajo –Historial de cambios de un trabajo Compuesto por –LB Server: Contiene la base de datos de los trabajos –LocalLogger: Aceptan mensajes de las fuentes que producen información sobre cambios en el trabajo.  Instalado en: RB, CE, (opcionalmente en el UI)  Envío asíncrono de mensajes al LB Server. –Librerias cliente(C++): informan al LocalLogger de los cambios  linkado en UI, RB, y usado por wrapper scripts

Enabling Grids for E-sciencE INFSO-RI WMPROXY – interfaz del WMS Introduction to WMPROXY Architecture of WMPROXY inside WMS Features and JDL attributes

Enabling Grids for E-sciencE INFSO-RI Introduction gLite idea was to move towards a Service Oriented Architecture (SOA) Imply services communicate through the exchange of messages –Moving to WS-* interfaces –Still missing a real standard. Many WS-* specifications –Activity inside OGF-GIN WMS started moving the access services: –(“old”) Network server receives user requests from UI, using an own protocol and interface. Communication from UI based on provided cli and apis –WMProxy service is web based and provides an standard interface to manage jobs.

Enabling Grids for E-sciencE INFSO-RI Taken from: M.Pappalardo - EuChina Grid Interoperability Meeting, Aprim WMPROXY features Workload Manager Proxy (WMProxy) –Developed by Datamat and included in the WMS –Web Service Interface  Simplicity/Extensibility  Accessibility: greater community of users  Integration: Eases interoperability among different middlewares –Stepping towards Interoperability  SOA conformance: WSDL service description  WS-I compliance: support for multi-language, multi-platform clients –Features  Provide Access to gLite Workload Management System  Serve a large number of requests  Improve performances  Improve usability  Provide new functionalities

Enabling Grids for E-sciencE INFSO-RI Taken from: M.Pappalardo - EuChina Grid Interoperability Meeting, Aprim WMProxy: Architecture (1/4) Service Container: –Apache + GridSite + FastCGI SOAP tooling –Stub generation is performed through gSOAP (C++) Security: –SSL Authentication –DN / FQAN-based Authorization Operations: –Job Submission and Control services implementation (C++) –Gridsite Delegation service implementation (C++)

Enabling Grids for E-sciencE INFSO-RI Taken from: M.Pappalardo - EuChina Grid Interoperability Meeting, Aprim WMProxy: Architecture (2/4) gSOAP layer: –intermediate layer between gSOAP and the WMProxy core Directory Manager: –Job reserved area Creation/Management on the server file system LB Access: –interaction with LB components –job registration –logging for job events –job information queries Request Delivery: –deliver request to Workload Management

Enabling Grids for E-sciencE INFSO-RI Taken from: M.Pappalardo - EuChina Grid Interoperability Meeting, Aprim WMProxy: Architecture (3/4) WMProxy integration with the WMS LB Proxy Workload Manager Client Local File System LB Data Base Server Host Logging & Bookkeeping MOD SSL MOD FastCGI WMProxy Server Apache Request Queue SOAP/ HTTPS Gridsite Delegation Job Sub/Contr.

Enabling Grids for E-sciencE INFSO-RI Taken from: M.Pappalardo - EuChina Grid Interoperability Meeting, Aprim WMProxy: Architecture (4/4) WMProxy modules Client WMProxy Operations LB AccessDelegation Request Delivery Directory Manager AuthorizationgSOAP Layer gSOAP Independant WMProxy Server

Enabling Grids for E-sciencE INFSO-RI Usage: Command Line Interface Interface is described in the WSDL Command line interface based on the that one to provide access: glite-wms-job-submit submits a job to a WMProxy Service. It requires a JDL file as input and returns a WMS job identifier. glite-wms-delegate-proxy allows the user to delegate her proxy credential to the WMProxy service. –This delegated credential can then be used for job submissions. glite-wms-job-list-match lists the identifiers of jobs submitted to a WMProxy Service by the user issuing the command. glite-wms-job-cancel cancels one or more jobs previously submitted to WMProxy Service. glite-wms-job-output Retrieve output files of a job, when finished. After this operation the job itself is purged and no more operation can be done on it glite-wms-job-perusal Manage the perusal functionality for a certain job such us: –Enabling perusal for one (or more) file(s) - Allowing perusal file retrieval - Disabling perusal functionality glite-wms-job-info (new in 3.1): Allow retrieving useful information about the user delegated proxy, the delegated identification details of the user, the jdl of a previously submitted job, etc

Enabling Grids for E-sciencE INFSO-RI Resúmen componentes del WMS (II) ReplicaCatalogue Logging & Book-keeping ResourceBrokerStorageElementComputingElement InformationService Job Status DataSets info Author. &Authen. Job Submit Event Job Query Job Status Input “sandbox” Input “sandbox” + Broker Info Output “sandbox” Publish SE & CE info “User interface”

Enabling Grids for E-sciencE INFSO-RI Other Wmproxy Usage Features Credential delegation (glite-wms-delegate-proxy) is used to make the security framework lighter: –Time consuming proxy delegation is done once per session –Job submission uses the delegation id to send jobs –Still can be delegated with each job-submission (as before) – not recommended Types of Requests: –JOB, DAG, COLLECTION Types of supported JOB: –NORMAL, INTERACTIVE, MPICH, PARTITIONABLE(deprecated), CHECHKPOINTABLE(deprecated), PARAMETRIC Bulk job submission: enables submission of multiple jobs at the same time –Reduces time of submission –Single call to WMProxy server –Single Authentication and Authorization process –Sharing of files between jobs Job’s Sandboxes: share common files Asynchronous Job Start

Enabling Grids for E-sciencE INFSO-RI Examples Taken from: TEGEE-JRA1-TEC JDL- Attributes-v0-8T 58 Features: JDL Attributes Inclusion of pre- and post- execution scripts: –PROLOGUE, EPILOGUE –PROLOGUEARGUMENTS, EPILOGUEARGUMENTS Compression and expansion of input sandbox files: –ZippedISB = “BossArchive_1_2_1.tgz”; –AllowZippedISB = true; (overrides ZippedIsb with the input sandbox files) Define how much time should the job be maintained in queue for execution: –ExpiryTime = ; Job Perusal: obtain partial results of the output files before job finishes: –PerusalFileEnable = true; –PerusalTimeInterval = 10; –PerusalFilesDestURI = “gsiftp://ghemon.cnaf.infn.it/home/glite/peek”; (not mandatory, could use the glite-wms-job-perusal command to retrieve files)

Enabling Grids for E-sciencE INFSO-RI Data Requirements JDL Attributes Sandbox files can be stored at a https/gridftp server: –InputSandboxBaseURI = "gsiftp://matrix.datamat.it:5432/tmp"; or multiple servers:  OutputSandbox = { "myjobOutput","run1/event1","myjobError"};  OutputSandboxDestURI = { "gsiftp://matrix.datamat.it:5432/tmp/myjobOutput ", "gsiftp://grid003.ct.infn.it:6789/home/cms/event1", "myjobError“}; DataRequirements contains 3 attributes: –InputData: List of InputData = { “lfn:/EO.test.file”, “lds:cms.test.file”, “guid:135b7b23-4a6a-11d7-87e7-9d101f8c8b70”, “query:select_my_DC1_files” }; –DataCatalogType (“rls”, “si” storage-index, “dli” data location interface) –DataCatalog (addess of catalog - DataCatalog = ); Matchmaking to find a CE close to the SE: –OutputSE = “grid001.cnaf.infn.it";

Enabling Grids for E-sciencE INFSO-RI Data Requirements Example DataRequirements = { [ DataCatalogType = "DLI"; DataCatalog = " InputData = {"lfn:/my/test/data1", "guid:44rr44rr77hh77kkaa3", "lds:my.test.dataset", "query:my_query"}; ], [ DataCatalogType = "SI"; DataCatalog = " InputData = {"lfn:/eo/test.file", "guid:ddffrg5451"}; ], [ DataCatalogType = "RLS"; DataCatalog = " InputData = {"lfn:/atlas/test.file", "guid:ggrgrg5656"}; ], [ DataCatalogType = "RLS"; InputData = {"lfn:/myvo/test.file", "guid:adbdefgilm1234"}; ],.... };

Enabling Grids for E-sciencE INFSO-RI Other Features Shallow resubmision: when submission fails due to a mw failure, and not application fail. –ShallowRetryCount = 3; Deep resubmision: RetryCount = 0; –shallow retry count is reset to zero each time a deep resubmission of the job is done. Collections: set of independent jobs –Attributes like a DAG, but no Dependencies among nodes set. nodes = { [n1], [n2], …};

Enabling Grids for E-sciencE INFSO-RI Complex Workflows Direct Acyclic Graph (DAG) is a set of jobs where the input, output, or execution of one or more jobs depends on one or more other jobs A Collection is a group of jobs with no dependencies –basically a collection of JDL’s A Parametric job is a job having one or more attributes in the JDL that vary their values according to parameters Using compound jobs it is possible to have one shot submission of a (possibly very large, up to thousands) group of jobs –Submission time reduction  Single call to WMProxy server  Single Authentication and Authorization process  Sharing of files between jobs –Availability of both a single Job Id to manage the group as a whole and an Id for each single job in the group nodeE nodeC nodeA nodeD nodeB

Enabling Grids for E-sciencE INFSO-RI Other features in WMS Hold and resume of jobs MPI without shared filesystems File peeking (read-only file access while job is running) Pilot jobs –Speed bulk jobs –Submit pilot to CE to prepare execution environment and then pull jobs to be executed from RB CE reputability ranking –Statistics about recent job failures in CE –Information to be used for scheduling

Enabling Grids for E-sciencE INFSO-RI ICE-CREAM CE evolution CREAM: Web Service Computing Element –Cream WSDL allows defining custom user interface –C++ CLI interface allows direct submission Lightweight Fast notification of job status changes –via CEMon Improved security –no “fork-scheduler” Will support for bulk jobs on the CE –optimization of staging of input sandboxes for jobs with shared files ICE: Interface to Cream Environment –being integrated in WMS for submissions to CREAM

Enabling Grids for E-sciencE INFSO-RI Test WMS- Rendimiento Results of the WMS testing presented at the EGEE-06 conference –CMS: 100 collections * 200 jobs/collection, 3 UIs, 33 CEs  ~ 2.5 h to submit jobs 0.5 seconds/job  ~ 17 hours to transfer jobs to a CE 3 seconds/job 26K jobs/day  Negligible failure rate due to WMS –Shallow resubmission  failure rate drops to less than 1% with 3 resubmissions ATLAS CMS (Transparencia EGEE/INFN)

Enabling Grids for E-sciencE INFSO-RI ALGORITMOS DE PLANIFICACIÓN Encargados de elegir el CE donde se va a mandar el trabajo. Algoritmos de matchmaking realizan –Fase 1: Descubrimiento de recursos, y –Fase 2: Recolección de información y Selección. Depende de: –Requerimientos del trabajo (JDL) –Preferencias del usuario (JDL) –Características y estado de los CEs (Sistema Información) –Localización de los datos necesarios en los SEs (Data Management) Escenarios posibles: 1.Envío directo 2.Trabajo sin requerimientos de datos 3.Trabajo con requerimientos de datos

Enabling Grids for E-sciencE INFSO-RI Envío directo del trabajo Cuando se sabe a qué recurso se quiere enviar: –Glite-wms-job-submit –resource  Añade en JDL el atributo SubmitTo= En ese caso no se realiza NINGÚN paso del algoritmo de matchmaking ni otras comprobaciones: –No comprueba si el usuario está autorizado –No comprueba si el sitio acepta trabajos. (Producción,…) –No se interacciona con el Catálogo de ficheros (Data Management) ni con el sistema de información –No se utiliza ni Requirements, ni Rank, ni ningún atributo relacionado con los Catálogos de ficheros

Enabling Grids for E-sciencE INFSO-RI Trabajos sin requerimientos de datos Se especifican requerimientos sobre el CE (atributo Requirements), pero no sobre datos El algoritmo interacciona con el Sistema de Información en dos Fases: –Fase 1: Descubrimiento de recursos (y comprobación de requirements):  Contacta con el BDII para obtener lista inicial de recursos  En los que esté autorizado  Cumplan los requirements del JDL  Si el trabajo ha reenviado automáticamente, se quitan los anteriores que fallan  La lista se pasa a la siguiente fase –Fase 2: Caracterización de recursos (y cálculo del RANK)  Se contacta con cada CE (GRIS) para obtener la información más actualizada ( se optimiza consultando al BDII en algunos casos)  Se obtienen los atributos del RANK y se calcula su valor para cada CE

Enabling Grids for E-sciencE INFSO-RI Trabajos sin requerimientos de datos (2) Una vez se tiene la lista de CEs ordenada por el RANK: –El WM selecciona el que tiene mayor rango calculado –Si hay varios con el mismo rango máximo, se selecciona aleatoriamente uno de ellos Se puede indicar que se quiere selección aleatoria total, se puede indicar en el JDL: –Rank = 1; –(Todos los CEs tienen el mismo rango, se selecciona uno al azar) Se puede decir que se adopte una selección estocástica: –Se pone en el JDL el atributo FuzzyRank = true; –El rango calculado del CE = probabilidad de ser seleccionado –Cuanto mayor rango, más probabilidades

Enabling Grids for E-sciencE INFSO-RI Se puede utilizar este algoritmo para enviar a un sitio determinado, añadiendo en el JDL: –Requirements = other.GlueCEUniqueId == “ " ;  (ej:Requirements = other.GlueCEUniqueId == “cg05.ific.uv.es:2119/jobmanager-lcgpbs-long" ;) En este caso realizaría la comprobación de requeriments, autorización, etcétera

Enabling Grids for E-sciencE INFSO-RI Trabajo con requerimientos de datos Tiene en cuenta la localización de ficheros remotos, interaccionando con el Data Management System: –Para saber los SEs donde están los ficheros de entrada –Y los SEs donde se debe guardar la salida Antes de la Fase 1 (Requirements) y 2 (Rank): –Hace una fase de pre-match con los datos –Filtra los CEs que cumplan los requerimientos de datos

Enabling Grids for E-sciencE INFSO-RI Requerimientos sobre réplicas de datos Establecidos a través de otros atributos del JDL: –InputData representa los ficheros de entrada remotos  InputData = {“lfn:mi-fichero1”,”lfn:mi-fichero2”};  Logical File Name, ver presentación de Data Management. –DataAccessProtocol define los protocolos que pueden ser usados por la aplicación para acceder a los ficheros de entrada  DataAccessProtocol = “gsiftp”; –OutputSE (opcional) SE donde se quiere guardar los ficheros de salida por el trabajo (ver algoritmo pre-match)  OutputSE = “gilda-se-01.pd.infn.it”; –OutputData (opcional) define los datos de salida para que sean registrados automáticamente  OutputData = { [ OutputFile="my_file_1.out"; LogicalFileName="lfn:my_test_result“; StorageElement="lxshare0291.cern.ch" ], [ OutputFile="my_file_2.out“; LogicalFileName="lfn:my_debugging" ] };

Enabling Grids for E-sciencE INFSO-RI Pre-Match 1) Contacta con el DataManagement (LFC) para resolver LFNs y recolectar info sobre SEs con al menos un fich de InputData. 2) Contacta al BDII: Se buscan los CEs que cumplen autorización y OutputSE esta en cerca (CloseCE) Además, estos SE deben hablar al menos un DataAccessProtocol. –Obtener SEMountPoint –Se cuentan el número de ficheros proporcionados por cada SE Clasifica por el número de ficheros almacenados en cada SE. OutputSE is a closeSE for CEId For each SE close to CEId One SEProtocol belongs to one DataAcces sProtocol Retrieve SEMountPoint Count ….. yes no CE list for file size for

Enabling Grids for E-sciencE INFSO-RI Fases 1 (Requirements) y 2 (Rank) Fase check Requirements: –Se empieza con los CEs que tienen el máximo número de ficheros. –Se van quitando los que no cumplan los requerimientos del usuario. Fase Ranking: –Se realiza de igual manera al tradicional –Se puede poner el nuevo atributo:  Rank = other.DataAccessCost; (estima costes acceso fichero)

Enabling Grids for E-sciencE INFSO-RI Fichero BrokerInfo Para conocer datos como –El CE donde se esta ejecutando el trabajo –Las localizaciones exactas de los ficheros de entrada (InputData) –Otras informaciones importantes Se crea el fichero.BrokerInfo por el WMS (RB) y es enviado con el trabajo: –Disponible en el WN durante la ejecución del trabajo –Disponible para el Usuario, si se pone en OutputSandbox: OutputSandbox = {“.BrokerInfo”, ….}; Basado en sintaxis Classads, se puede parsear usando comandos

Enabling Grids for E-sciencE INFSO-RI Ejemplo.BrokerInfo [ ComputingElement = [ CloseStorageElements = { [ GlueSAStateAvailableSpace = ; GlueCESEBindCEAccesspoint = "/flatfiles/SE00"; mount = GlueCESEBindCEAccessPoint; name = "grid009.to.infn.it"; freespace = GlueSAStateAvailableSpace ] }; name = "grid008.to.infn.it:2119/jobmanager-lcgpbs-long" ]; InputFNs = { }; StorageElements = { }; VirtualOrganisation = "dteam" ]

Enabling Grids for E-sciencE INFSO-RI Ejemplo.BrokerInfo DataAccessProtocol = { "gridftp", "file" }; InputFNs = { [ name = "lfn:wp1-test-file-01-lfn"; SFNs = { "sfn://testbed013.cern.ch/wp1/wp1-test-file-01", "sfn://testbed113.cern.ch/wp1/wp1-test-file-01" } ], [ name = "lfn:wp1-test-file-02-lfn"; SFNs = { "sfn://testbed001.cern.ch/wp1/wp1-test-file-02", "sfn://testbed005.cern.ch/wp1/wp1-test-file-02" } ], [ name = "lfn:wp1-test-file-03-lfn"; SFNs = { "sfn://testbed002.cern.ch/wp1/wp1-test-file-03" } ] }

Enabling Grids for E-sciencE INFSO-RI (Obsoleto) Comando BrokerInfo (WN y UI) /opt/glite/bin/glite-brokerinfo [-v] [-f filename] function [parameter] [parameter]... -v : for verbose, formatted output -f : for specify a brokerinfo file –function is one of the following:  getCE returns the name of the CE the job is running on  getVirtulOrganization returns the name of the VO specified in the VirtualOrganization JDL attribute  getDataAccessProtocol returns the protocol list specified in the DataAccessProtocol JDL attribute  getInputData returns the files specified in the InputData JDL attribute  getSEs returns the list of the SE with contain a copy of at least one file among those specified in the InputData JDL attribute  getCloseSEs returns a list of SEs close to the CE  getSEMountPoint returns the access point for the specified, if it is in the list of close SEs of the WN  getSEPort returns the port number used by for the data transfer protocol  getLFN2SFN returns the storage file name of the file specified by is a logical file name of a GUID specified in the InputData attribute

Enabling Grids for E-sciencE INFSO-RI Referencias Usado Material de diversas presentaciones de Egee y diversos autores. Gilda Tutorials: WMPROXY user Guide: Atributos JDL: