Schon im Mittelalter lebten Jüdinnen und Juden in Saarburg. Der Friedhof ist 1804 erstmals schriftlich erwähnt worden und diente mehreren Gemeinden als Bestattungsplatz. Somit war er der zweitgrößte Friedhof im Kreis Trier-Saarburg. Während des Nationalsozialismus ist der Friedhof sowohl 1933 als auch nach 1938 geschändet worden. Heute fungiert der Friedhof als Gedenkort. Am Eingang befindet sich eine Informationstafel.