Der mittelalterliche Friedhof »Judensand« an der Mombacher Straße ist in weiten Teilen erhalten. Immer wieder führten Vertreibungen der jüdischen Gemeinde zu Räumungen und Umgestaltungen, wodurch viele Grabsteine verloren gingen. Seit den 1860er-Jahren tauchten bei Bauarbeiten in Mainz immer wieder bedeutende Grabsteine jüdischer Herkunft auf.
1926 vereinten die Rabbiner Levi und Salfeld herausragende Grabsteine zu einem Denkmalfriedhof, um das jüdische Erbe sichtbar zu machen und die Verortung der Gemeinde in Magenza und Deutschland zu betonen. Der älteste erhaltene Grabstein stammt von 1049 und erinnert an Jehuda ben Schneor. Weitere Grabsteine ehren die Gelehrten Gerschom ben Jehudah und Meschullam ben Kalonymos den Großen. Einige besonders alte Steine werden seit den 1980er-Jahren mit Genehmigung der Jüdischen Gemeinde im Landesmuseum Mainz ausgestellt.
Der Denkmalfriedhof zeigt die zentrale Bedeutung Magenzas für das jüdische Leben und ist in der jüdischen Welt einzigartig. Im Rahmen der Welterbe-Bewerbung der SchUM-Stätten wird der Friedhof weiter erschlossen, erforscht und denkmalpflegerisch betreut.
