Die Entstehung der jüdischen Gemeinde in Herxheim geht bis in die Zeit des 18. Jahrhunderts zurück. Nachdem die Verstorbenen der jüdischen Gemeinde zunächst in Essingen und in Rülzheim bestattet worden waren, wurde vermutlich in der zweiten Hälfte des 19. Jahrhunderts auch in Herxheim ein jüdischer Friedhof eingerichtet. Die jüdische Gemeinde war neben dem eigenen Friedhof außerdem mit einer Synagoge, einer Schule und einem rituellen Bad ausgestattet. Während der nationalsozialistischen Diktatur sind die meisten jüdischen Einwohner*innen weggezogen und ausgewandert. 1938 wurden noch 16 jüdische Einwohner*innen gezählt. Während des Zweiten Weltkrieges wurde der Friedhof abgeräumt und eingeebnet. Die Steine wurden zum Bau eines Waldweges verwendet. Nach 1945 ist das Friedhofsgrundstück in Herxheim als Parkanlage gestaltet und ein Gedenkstein aufgestellt worden. Die Inschrift auf dem Gedenkstein lautet wie folgt: „Den hier ruhenden Toten der Jüdischen Gemeinde Herxheim und den Opfern 1933–1945 gewidmet.“