Die ersten jüdischen Einwohner gab es in Nieder-Olm bereits im Mittelalter. Die jüdische Gemeinde bildete sich dort jedoch erst im 19. Jahrhundert aus; sie verfügte über eine Religionsschule, eine Synagoge, ein rituelles Bad und einen Friedhof. Aufgrund diverser antisemitischer Anschläge in den Jahren 1881/82 kam es zu einem Rückgang der jüdischen Einwohnerzahl. Im Jahr 1880 lebten in Nieder-Olm noch 64 Juden, im Jahr 1900 nur noch 32. Die Synagoge ist vermutlich im Jahr 1858 gebaut worden (vorher wird es wohl einen Betsaal in einem Privathaus gegeben haben). Im Jahr 1892 ist das Synagogengebäude im Zuge eines antisemitisch motivierten Angriffs geschändet worden. Da die jüdische Gemeinde im Jahr 1935 praktisch zu existieren aufgehört hatte, ist die Synagoge 1938 an einen Nachbarn verkauft worden, der sie als Lagerraum verwendete. Während des Zweiten Weltkriegs brannte das Gebäude bei einem Luftangriff völlig aus. Das Denkmal wurde im Jahr 1988 aufgestellt. Die originale Inschrift ist auf hebräisch gehalten. Die deutsche Übersetzung lautet wie folgt: „An dieser Stelle stand 1858 bis 1938 die Synagoge der jüdischen Gemeinde Nieder-Olm. Das Gebäude musste 1938 verkauft werden und diente bis zu seiner Zerstörung durch einen Luftangriff im Jahre 1945 als Lagerhaus.
Die Jüdische Gemeinde Nieder-Olm zählte in ihrer Blütezeit um die Jahrhundertwende 24 Familien. Ihr letzter Vorsteher war Otto Mayer. Zur Zeit des Novemberprogroms 1938 lebten in Nieder-Olm 14 jüdische Mitbürgerinnen und Mitbürger, von denen der größere Teil sein Leben durch Emigration retten konnte. Otto Mayer, seine Ehefrau Elisabeth und seine Tochter Else wurden im Konzentrationslager Theresienstadt ermordet.“ [Die Angaben auf der Gedenktafel sind teilweise nicht korrekt, da es im Jahr 1938 nur noch 9 jüdische Mitbürger*innen gab, siehe hierzu: Weisrock/E.Rettinger/A.Weisrock (Hrg.), Die jüdische Gemeinde von Nieder-Olm, S. 32]