Die Geschichte der jüdischen Gemeinde in Merzig reicht bis in das 17. Jahrhundert zurück. Die erste Erwähnung findet sich über „Roffel / Raphael Jud“, der in einem Vogteigerichts-Protokoll im Jahr 1652 erwähnt wurde. Die Quellenlage ist nicht ausreichend, um festzustellen, ob er auch wirklich in Merzig lebte. 1683 folgt die Erwähnung der ersten in Merzig lebenden jüdischen Familie, der Familie des Moyses Hanau. Der erste Betsaal befand sich auf dem Grundstück oder im Haus des Moyses Hanau. Dieser war allerdings ohne behördliche Erlaubnis eingerichtet worden. Daher wurde die Familie nicht nur bestraft, sondern auch zum Abbruch des Betsaals gezwungen. Nach 1780 durfte ein neuer Betsaal eingerichtet werden. Aufgrund des Anstiegs der Anzahl der Gemeindemitglieder bestand die Notwendigkeit des Baus einer neuen Synagoge. Die neugebaute Synagoge wurde am 21. und 22. Juli 1842 eingeweiht. Beim Novemberpogrom wurde diese angezündet. Die Ruine wurde im Jahr 1939/40 komplett abgetragen. Auf dem Grundstück wurden Baracken für einen NS-Kindergarten eingerichtet. Bei einem Bombenangriff während des Zweiten Weltkriegs wurde auch die bis dahin noch stehende jüdische Schule mit dem Wohnhaus des Lehrers zerstört. Bereits 1961 wurde eine Gedenktafel errichtet. 1975 wurde auf Beschluss des Stadtrates die Rehstraße in Synagogenstraße umbenannt. Ein Jahr später wurde eine Gedenkstätte auf dem nicht bebauten ehemaligen Synagogengrundstück mit der folgenden Inschrift angebracht: „Hier stand das im November 1938 beschädigte und im November 1944 zerstörte ehrwürdige Gotteshaus der Israelitischen Gemeinde Merzig“. Da die Inschrift nicht alle historischen Ereignisse aufführte, sind diese am 20. März 2005 ergänzt worden. Seitdem ist die folgende Inschrift auf der Rückseite des Denkmals zu lesen: „Die Synagoge wurde in der Pogromnacht im November 1938 zerstört und die Ruine später abgerissen. Das Haus des Kantors fiel einem Bombenangriff im November 1944 zum Opfer.“