TARDPCurso 05/06 Prophet/Critic Hybrid Branch Prediction Ayose Falcón, Stark, Ramirez, Lai y Valero ISCA’04 Pablo Carazo Minguela – Junio/2006

TARDPResumenCurso 05/06 Híbrido ¿novedoso? Profeta Crítico pasado futuro Híbrido 8K+8K vs 16K 2Bc-gskew Reduce errores hasta un 39% Aumenta  PC 7,8.. 18% Reduce  PC leídas en un 8,6% Resultados BBB

TARDP3 ÍNDICE Introducción Trabajos relacionados Primera aproximación Filtrando el crítico Juntándolo todo Simulación Resultados Conclusiones

TARDPIntroducción4 Valdebernardo profeta crítico ??

TARDP5 ÍNDICE Introducción Trabajos relacionados Primera aproximación Filtrando el crítico Juntándolo todo Simulación Resultados Conclusiones

PredicAPredicB BHSR PC Selec | Fusión Híbrido bitFuturo TARDPTrabajos relacionados6 PredicAPredicB BHSR PC =? Salto1 Salto2 Sobre-escritura BHSR PC Predictor CT 0110 reduc Estimador Confianza BHSR’ Novedoso t PiCi

TARDP7 ÍNDICE Introducción Trabajos relacionados Primera aproximación Filtrando el crítico Juntándolo todo Simulación Resultados Conclusiones

TARDPPrimera aproximación8 Profeta Predicción LQRSTUVWXY P PC BHSR t QRSTUVWXYP Crítico Crítica BOR QRSTUWXYPV ¿Unos ciclos más tarde? UVWXYABCDP UVWXYABCDP Pasado Futuro P DCBA

¡Ojo! A B E H D C GF IJ TT TARDPPrimera aproximación (Un ejemplo)9 WXYZ Error => Crítico se entrena NOPQ ¿Esto es frecuente? + Interferencia …WXYZ …NOPQ PC ¡n*2 fallos! Sig (A, T) => Crítico (A,T) Profeta T Crítico T T T T ¿Cuánto?

TARDP Primera aproximación (Tasa de interferencias) 10 Chang, Evers y Patt (1996) gcc y gshare con 8K entradas Entradas con 32 interferencias o menos Entradas con 325 interferencias o más ¡ 325 interferencias de media ! Instrucciones Bcc Interferencias Neutras Destructi. Constructi ¡Filtrado!

TARDP11 ÍNDICE Introducción Trabajos relacionados Primera aproximación Filtrando el crítico Juntándolo todo Simulación Resultados Conclusiones

BOR dirSalto Crítico predicc. TARDPFiltrando el Crítico12 El Profeta acierta ≈ % => El Crítico se centre en el otro 5..10% Filtro tag Hash =? AciertoCrítica FalloProfecía Falla Meter salto en el Crítico

TARDP13 ÍNDICE Introducción Trabajos relacionados Primera aproximación Filtrando el crítico Juntándolo todo Simulación Resultados Conclusiones

TARDPJuntándolo todo (I)14 Reinman, Austin y Calder (1999): Escalado de conexionesFront-End desacoplado FTQ L1 I-Cache Segmentada Decodi. Ejecución MUX sigPC sigBloque L1 FTB ultBloque miss [jump, jsr, rst] miss Bcc L2 FTBL2 I-Cache Profeta Crítico profeta crítico ??

Crítico TARDPJuntándolo todo (II)15 Profeta I-Cache & Fetch A FTQ ABC DEFGHIJKL B CDE F BOR 4 b futuro IHG Ideal: FTQ casi siempre bastante llena 2xCiclo 1xCiclo 6µOpxCiclo Bcc cada 13µOP Pega: No hay suficientes bits de futuroCon 8b 0,1% veces ¡ Usar los que haya ! ¿Crítico corrige predicción? Efecto limitado a la FTQ

TARDP16 ÍNDICE Introducción Trabajos relacionados Primera aproximación Filtrando el crítico Juntándolo todo Simulación Resultados Conclusiones

TARDPSimulación17 Micro tipo Pentium 4 * 2 3,8GHz; 6  OPC; L1I 64KB; L1D 32KB; L2 2MB; FTQ 32 Predictores utilizados: Gshare, 2Bc-gskew y Perceptron 108 bancos de pruebas: tpcc, premiere, msvc7, unzip, facerec, …

TARDP18 ÍNDICE Introducción Trabajos relacionados Primera aproximación Filtrando el crítico Juntándolo todo Simulación Resultados Conclusiones

TARDPResultados19 Importancia de los bits de futuro Precisión de la predicción Distribución de las críticas Productividad del conjunto

TARDPResultados (Importancia de los bits de futuro)20 Profeta: 8KB perceptron + Crítico: 8KB gshare etiquetado Unos pocos bits OKMás no rentables? ¿8 OK?

TARDPResultados (Precisión de la predicción)21 Mejoras: % Con 32KB parecido

TARDPResultados (Distribución de las críticas)22 ProCrí ProCrí ProCrí ProCrí ¿ Profeta + [Crítico] ? 3Bcc => 1 Crítico4Bcc => 1 Crítico Profeta 23 ¡ Acierta el 98,7% !

TARDPResultados (Productividad del conjunto)23

TARDP24 ÍNDICE Introducción Trabajos relacionados Primera aproximación Filtrando el crítico Juntándolo todo Simulación Resultados Conclusiones

TARDPConclusiones25 Híbrido 8K+8K vs 16K 2Bc-gskew Reduce errores hasta un 39% Aumenta  PC 7,8.. 18% Reduce  PC leídas en un 8,6% Resultados BBB Según los propios autores Needs fast hardware to compute prediction/mispredictions and refile the FTQ before branches consumed by I-Cache Large tag  small coverage, small tag  contention; Therefore it is not universal How to select branches to cover in the filtered critic FIN