La conquête arabe du Pays eut lieu quatre ans après la mort de Mahomet (632) et dura près de quatre siècles, les califes de Damas régnant d’abord, puis ceux de Baghdad et d’Egypte. Au début, les juifs se réinstallèrent à Jérusalem et la communauté juive se vit octroyer le statut des non-musulmans protégés, assurant la sauvegarde de leur vie et de leurs biens et leur accordant la liberté de culte contre le paiement d’une taxe et d’impôts fonciers.

Mais par la suite, des restrictions imposées aux non-musulmans (717) affectèrent les affaires publiques des juifs ainsi que leurs pratiques religieuses et leur statut juridique. L’imposition de lourdes taxes sur les terres agricoles contraignit bon nombre d’entre eux à quitter les régions rurales pour les villes, où leurs conditions étaient loin de s’améliorer, tandis qu’une discrimination économique de plus en plus marquée obligeait les autres à quitter le pays. Vers la fin du XIe siècle, la communauté juive y avait considérablement diminué et avait perdu de sa cohésion, y compris en matière religieuse.