Bereits im Mittelalter lebten in Nieder-Olm Jüdinnen und Juden. Die Toten der jüdischen Gemeinde wurden zunächst in Sörgenloch beigesetzt. Ein eigener Friedhof ist in Nieder-Olm zwischen 1855 und 1878 am Rande des kommunalen Friedhofs angelegt worden. Der älteste Mazewa (jüdischer Grabstein) gehört Antoniele Neumann, die am 25. Januar 1879 gestorben ist. Es sind noch 27 Grabsteine vorhanden, die in den Jahren zwischen 1879 und 1934 aufgestellt wurden.