Die Entstehungsgeschichte des Lagers geht in das Jahr 1938 zurück, als die deutsche Arbeitsfront (DAF) ein Barackenlager für die Westwall- und Reichsautobahnarbeiter einrichtete. Die Arbeiter wurden beim Bau der Strecke Pfalz-Saarbrücken-Wittlich eingesetzt. Im Jahr 1939 wurde das Lager von der Organisation Todt übernommen. Gleichzeitig wurden hier auch die „Arbeitsverweigerer“ zu dreiwöchiger Umerziehung gebracht, sodass das Lager eine Doppelfunktion als Polizeihaft- und Arbeitserziehungslager erfüllte.
Am 9. Oktober wurde Hermann Pister zum ersten Lagerkommandanten ernannt. Dieser ließ in demselben Gebäudekomplex ein SS-Sonderlager errichten, wo diejenigen, bei denen die dreiwöchige Erziehung im Polizeihaftlager keinen „Erfolg“ gebracht hat, zu einer längeren Haft in SS-Sonderlager zugewiesen wurden. Erstmals wurde die Bezeichnung „SS-Sonderlager“ am 23. November 1939 erwähnt.
Der Stopp des Westwallbaus aufgrund der schnellen Erfolge der Wehrmacht bedrohte die Existenz des Lagers. Ab dem 1. Juli 1940 wurde das Lager der Inspektion der Konzentrationslager (IKL) unterstellt, das heißt, dass es den Rang eines KZ-Hauptlagers bekommen hat, gleichzeitig nahm es wegen des parallel funktionierenden SS-Sonderlagers eine Sonderstellung im System der Konzentrationslager ein.
Egon Zill löste im Dezember 1940 Hermann Pister ab. Der dritte Kommandant des Lagers war bis 21. November 1944 Paul Sporrenberg. Die Wachmannschaft des Lagers war ab 9. Juni 1940 in die Waffen-SS überführt worden.
Da sich das Lager an der Straße von Hinzert nach Reinsfeld befand, war seine Existenz kein Geheimnis für die Öffentlichkeit. Durch den Zaun konnten Passanten den Umgang mit Gefangenen, unter anderem auch den „Läuseappel“, währenddessen die Häftlinge sich ausziehen mussten und der Schikanen der Lageraufseher unterzogen wurden, mitbekommen. Ein anonymer Brief vom 18. März 1944, der an den Reichsführer-SS geschrieben wurde, weißt darauf hin, dass die Öffentlichkeit in der Umgebung sehr gut über das Geschehen in Hinzert informiert war.
Während der Zeit von September 1939 bis März 1945 wurden im Lager mindestens 10.000 männliche Häftlinge inhaftiert. Eine genaue Zahl konnte bisher nicht ermittelt werden.
Die Häftlingsgruppen änderten sich mit dem Verlauf des Krieges. Zunächst wurden in Hinzert deutsche Westwall-Arbeiter aufgrund angeblichen Mangels an Arbeitsdisziplin oder „asozialem Verhalten“ untergebracht. Nach der Besetzung Luxemburgs am 10. September 1940 kamen hauptsächlich luxemburgische Schutzhäftlinge nach Hinzert, was diesen Ort zu einer zentralen Haftstätte für luxemburgische Gegner der Besetzung machte. Infolge des Nacht-und-Nebel-Erlasses vom 7. Dezember 1942 wurden Nacht-und-Nebel-Häftlinge aus Frankreich, Belgien und den Niederlanden nach Hinzert gebracht. Insgesamt wurden in Hinzert mindestens 1.700 NN-Häftlinge inhaftiert. Zwischen Juni 1941 und Ende 1942 wurden in Hinzert 800 ehemalige deutsche Mitglieder der französischen Fremdenlegion untergebracht.
Ab 4. Juni 1943 wurde Hinzert zum Ort der „Überprüfung“ der „Eindeutschungsfähigkeit“ polnischer Zwangsarbeiter bestimmt, die „verbotenen Umgang“ mit reichsdeutschen Frauen hatten. Diese Prüfung wurde auf 6 Monate festgelegt. In der Praxis konnte aber die Haftzeit mehrmals verlängert werden, auch bei positivem Führungsbericht durch den Lagerkommandanten und positivem Ergebnis der „Sippenüberprüfung“ – ein Prozedere der Überprüfung der Familienangehörigen des Häftlings auf ihre „rassischen Merkmale“. Die Möglichkeit der Eindeutschung wurde nur den „arisch“ aussehenden Polen bewilligt. Diejenigen, die laut der NS-Rassenideologie „slawischen Charakter“ besaßen, wurden für den „verbotenen Umgang“ mit deutschen Frauen zum Tode verurteilt. Es gab in Hinzert 916 „Eindeutschungs-Polen“.
Eine andere Häftlingsgruppe stellten die Zwangsarbeiter dar, die aus unterschiedlichen Gründen, wie Fluchtversuch vom Arbeitsplatz, mangelndem „Arbeitseifer“ oder verbotenem Alkoholkonsum, nach Hinzert gebracht wurden.
Insgesamt sind 321 Todesfälle belegt. Vom Status Hinzerts als Konzentrationslager zeugen auch die Aufgaben, die das Lager in den Jahren 1941/1942 zugewiesen bekam. Dazu gehören Schutzhafteinweisungen, aber auch die „Sonderbehandlung“ (= Tötung) von sowjetischen Kriegsgefangenen.
Zwischen den Jahren 1941 und 1944 kam es zu drei großen Massenmordaktionen. Zum einen im Jahr 1941, in dem 70 sowjetische Kriegsgefangene im Zuge des „Kommissarbefehls“ durch ermordet wurden. Zum anderen wurden in den Jahren 1942 20 Teilnehmer des Generalstreikes in Luxemburg und im Jahr 1944 23 Widerstandkämpfer aus Luxemburg hingerichtet. Diese Aktion sollte als Warnung gegen wachsenden Widerstand der luxemburgischen Bevölkerung dienen.
Es wurden neben solchen Aktionen auch Häftlinge im Alltag ermordet, wie der jüdische Häftling Josef Hanau, der von SS-Männern ertränkt wurde. Allein unter Sporrenbergs Leitung wurden 93 Häftlinge ermordet, was in der Anklageschrift gegen ihn angeführt wurde. Viele Häftlinge kamen aufgrund der Folterungen, entzogener medizinischer Versorgung und unzureichender Ernährung um. Die unzureichende Ernährung – eine Scheibe Brot und Tee oder Kaffee-Ersatz morgens sowie eine fettarme Kohlsuppe zum Mittag- und Abendessen – führte zur Entkräftung der Häftlinge. Sie wurden für schwere Arbeiten eingesetzt, vor allem seit 1942, als das Lager dem Wirtschaftsverwaltungs-Hauptamt (WVHA) unterstellt wurde. Die Unterkunftsbedingungen waren ebenfalls miserabel, das Lager war mit 560 Plätzen ständig überbelegt: Gelegentlich kam es vor, dass im Lager mehr als 1.500 Häftlinge gleichzeitig untergebracht waren.
Die formale Unterstellung des SS-Sonderlager Hinzert unter das KZ Buchenwald am 21. November 1944 wurde offenbar nicht vollzogen. Teile des Lagers wurden beim Luftangriff am 22. Februar 1944 zerstört. Als Hinzert von der 3. amerikanischen Armee befreit wurde, war es schon teilweise geräumt, Häftlinge wurden auf Todesmärsche nach Buchenwald geschickt. Machen Häftlingen gelang es, aus der Kolonne zu fliehen. Die letzten Gruppen von Häftlingen wurden bei Gießen befreit.
Im Jahr 1946 wurde von der französischen Militäradministration auf dem Gelände der früheren Wachmannschaftsunterkünfte ein Ehrenfriedhof angelegt, auf dem 217 Tote begraben wurden. Diese konnten nach Kriegsende nicht repatriiert werden. Im Jahr 1989 wurde ein vom ehemaligen luxemburgischen Häftling und Bildhauer Lucien Wercollier entworfenes Denkmal an die KZ-Opfer eingeweiht, welches Aufmerksamkeit auf das Gelände des ehemaligen KZ gezogen hat. Die erste Informationstafel in vier Sprachen wurde erst im Jahr 1997 angebracht. Auf Initiative des „Fördervereins Dokumentations- und Begegnungsstätte ehemaliges KZ Hinzert e.V.“ und der Landeszentrale für politische Bildung Rheinland-Pfalz wurde im Dezember 2005 ein Dokumentationszentrum fertiggestellt.