Durante el período del Segundo Templo, los principales acontecimientos de la historia judía ocurrieron en la Tierra de Israel. En el siglo 2 E.C., después del fracaso de la rebelión de Bar Cojba y de las persecuciones subsiguientes desatadas por Adriano, el centro de la vida judía se desplazó de Judá a Galilea. Adriano

Allá fue compilado y editado en el siglo 3 el cuerpo de leyes conocido como la Mishná, y se celebraron ciertas ceremonias que si no sugerían la independencia política, por lo menos la marcaban en un sentido religioso y cultural. Modelo del segundo Templo de Jerusalen

En Babilonia existió también una densa población judía desde la época del primer exilio, en el siglo 6 a.C.; hubo, asimismo, comunidades judías en Egipto, Italia, Grecia, España, Francia, Asia Menor y la Península Arábiga. En tanto se mantuvo el Templo de Jerusalén, éste fue considerado como el centro de la vida judía; algún tiempo después de su destrucción, las distintas comunidades comenzaron a vivir una existencia propia.

El mayor peso de la autoridad religiosa se trasladó gradualmente de la Galilea a Babilonia, y una corriente constante de eruditos y discípulos se dirigió a dicho país. Gran extensión de Babilonia fue poblada exclusivamente por judíos, quienes gozaban de considerable autonomía bajo la jefatura de exiliados que declaraban ser descendientes del rey David.

En 219 de la E.C. llegó a Babilonia Abba Arija, conocido por el nombre de Rav, uno de los más destacados rabinos de Eretz Israel; estableció un seminario en la población de Sura el cual conjuntamente con el de su colega Samuel en Nehardea, se convirtió en el centro de la autoridad religiosa para todo el mundo judío.

En esos seminarios, la Mishná se expandió a las páginas del Talmud, y los textos con las discusiones que tuvieron lugar allí son estudiados hasta la actualidad. El Talmud, además de contener material legal y ritual, comprende debates sobre una amplia variedad de asuntos; hay leyendas, relatos y anécdotas, sermones morales y éticos e investigaciones sobre temas naturales y científicos.

El Talmud de Babilonia fue completado en el siglo 5 E.C., en tanto que una versión de Eretz Israel, llamada el Talmud de Jerusalén, fue terminada antes. La comunidad judía de Babilonia prosperó durante varios siglos. En los siglos 9 y 10 E.C. se produjo un cisma entre los caraítas, secta que negaba la interpretación rabínica de la Biblia, y la jerarquía institucionalizada de los rabanaístas.

Este cisma, así como el surgimiento del Islam, originaron los primeros estudios sistemáticos de la lengua, la Biblia y la filosofía hebreas. En los siglos 10 y 11 la comunidad judía de Babilonia comenzó a declinar, en primer término como resultado de condiciones políticas adversas, pero siguió existiendo allí hasta los tiempos modernos en que la mayoría emigró a Israel.