De middeleeuwse begraafplaats »Judensand« aan de Mombacher Straße is in grote delen bewaard gebleven. Herhaaldelijk leidde de uitzetting van de Joodse gemeenschap tot ontruimingen en herinrichting, waardoor veel grafstenen verloren gingen. Sinds de jaren 1860 verschenen bij bouwwerkzaamheden in Mainz steeds weer opmerkelijke grafstenen van Joodse oorsprong.
In 1926 verenigden de rabbi's Levi en Salfeld uitmuntende grafstenen tot een gedenkbegraafplaats, om het Joodse erfgoed zichtbaar te maken en de vestiging van de gemeenschap in Magenza en Duitsland te benadrukken. De oudste bewaarde grafsteen dateert uit 1049 en herdenkt Jehuda ben Schneor. Verdere grafstenen eren de geleerden Gerschom ben Jehudah en Meschullam ben Kalonymos de Grote. Enkele bijzonder oude stenen worden sinds de jaren 1980 met toestemming van de Joodse gemeenschap in het Landesmuseum Mainz tentoongesteld.
De gedenkbegraafplaats toont de centrale betekenis van Magenza voor het Joodse leven en is uniek in de Joodse wereld. In het kader van de Werelderfgoed-aanvraag van de SchUM-locaties wordt de begraafplaats verder onderzocht, bestudeerd en monumentaal onderhouden.
