Der Kriegsbeginn brachte für die Juden in Deutschland eine Auswanderungsbeschränkung. Sie wurde von weiteren Demütigungen begleitet. So verhängte man für die noch in Deutschland verbliebenen Juden eine nächtliche Ausgangssperre, beschlagnahmte ihre Radios, sperrte ihre Telefonanschlüsse, setzte sie bei minimalem Lohn und doppelten Sozialabgaben zur Zwangsarbeit in der Rüstung ein und wies ihnen besondere Lebensmittelgeschäfte zum Einkaufen zu.

Mit der deutschen Besetzung Polens begann sofort die Verfolgung der Juden. SS-Einsatzkommandos, unterstützt von einheimischen "volksdeutschen Einheiten", drangsalierten jüdische Bürger und plünderten ihr Eigentum. Zwangsarbeit und Ausgangssperren waren erste offizielle Maßnahmen gegen die Juden in Polen. Es folgten der Ausschluss aus dem Wirtschaftsleben, die  Sperrung der Bankkonten sowie willkürliche Verhaftungen. Die Synagogen der Städte wurden zerstört.

Am 21. September 1939 richtete Reinhard Heydrich, der Chef der Gestapo und der Sicherheitspolizei, Anweisungen an die Führer der Einsatztruppen in Polen, aus denen die Pläne für das weitere Vorgehen in der 'Judenfrage' zu erkennen sind.

Am 30. Oktober 1939 setzte der Reichsführer SS, Heinrich Himmler, die folgenden drei Monate als Zeitraum fest, in dem die ländlichen Gebiete Westpolens von Juden 'gereinigt' werden sollten. Die Juden dieser Gebiete wurden nun gezwungen, in zuvor festgelegte Städte (Warschau, Lodz, Ozorkow u. a.) umzuziehen. Aus dem Gau Wartheland siedelten ca. 40.000 Juden nach Warschau um, einer Stadt, die bereits mehr als 350.000 jüdische Bewohner hatte. Nach Lodz kamen 162.000 Vertriebene. Gleichzeitig wurden Hunderte von jüdischen Menschen vorwiegend in den Bezirk Lublin deportiert.

Im Mai 1940 legte Heinrich Himmler, der Reichsführer SS, Hitler eine Schrift mit dem Titel 'Einige Gedanken über die Behandlung des Fremdländischen im Osten' vor. In einer "rassischen Siebung" sollten die "wertvollen Elemente" der Bevölkerung in den besetzten Gebieten "herausgefischt und zur Assimilierung nach Deutschland geschickt" werden. Die "verbleibende minderwertige Bevölkerung" sollte "als führerloses Arbeitsvolk zur Verfügung stehen" und "unter der strengen, konsequenten und gerechten Leitung des deutschen Volkes" berufen sein, "an dessen ewigen Kulturtaten ... mitzuarbeiten".

Am 24. Juni 1940 wies der Chef der Sicherheitspolizei und des Sicherheitsdienstes (SD), Reinhard Heydrich,  in einem Schreiben an Außenminister Ribbentrop darauf hin, dass seit Januar 1939 insgesamt 200.000 Juden ausgewandert seien. Er schreibt: "Das Gesamtproblem - es handelt sich bereits um 3 ¼  Millionen Juden in den heute deutscher Hoheitsgewalt unterstehenden Gebieten - kann durch Auswanderung nicht mehr gelöst werden. Eine 'territoriale Endlösung' wird dadurch notwendig."

Ab Mai 1941 wurde die Auswanderung von Juden aus dem deutschen Machtbereich stark behindert. Der von den Nationalsozialisten verwendete Begriff 'Endlösung der Judenfrage' diente nun ganz offiziell der physischen Vernichtung der Juden. Es fehlte lediglich noch die Möglichkeit des Vollzugs.

Am 22. Juni 1941 überschritten deutsche Truppen die Grenzen der Sowjetunion. Bei ihrem Vormarsch kamen sie durch Gebiete, in denen ca. 2,7 Millionen Juden sowie mehrere hunderttausend jüdische Flüchtlinge aus Westpolen lebten. Schon zu Beginn des Russlandfeldzugs existierte ein Teil der Vernichtungsmaschinerie in Form der "Einsatztruppen der Sicherheitspolizei und des SD". Diese Einheiten unterstanden dem Oberbefehl des Reichsführers SS Heinrich Himmler und waren berechtigt, "im Rahmen ihres Auftrags in eigener Verantwortung gegenüber der Zivilbevölkerung Exekutivmaßnahmen zu treffen". Ihre Aufgabe war es, "weltanschauliche Gegner" (Funktionäre der Kommunistischen Partei der Sowjetunion, "Juden in Partei- und Staatsstellung" und "sonstige radikale Elemente") zu exekutieren.

Am 31. Juli 1941 autorisierte Reichsmarschall Göring Reinhard Heydrich  zu weiteren Planungen. In diesem 'Bestellungsschreiben' heißt es: "In Ergänzung der Ihnen bereits mit Erlass vom 24.1.39 übertragenen Aufgabe, die Form der Auswanderung oder Evakuierung einer den Zeitverhältnissen entsprechend möglichst günstigen Lösung zuzuführen, beauftrage ich Sie hiermit, alle erforderlichen Vorbereitungen in organisatorische, sachlicher und materieller Hinsicht zu treffen für eine Gesamtlösung der Judenfrage im deutschen Einflussgebiet in Europa. ... Ich beauftrage Sie weiter, mir in Bälde einen Gesamtentwurf über die organisatorischen, sachlichen und materiellen Vorausmaßnahmen zur Durchführung der angestrebten Endlösung der Judenfrage vorzulegen.". Bei der Abfassung des 'Bestellungsschreibens' war der Entschluss zum Völkermord bereits gefallen.

Der Krieg gegen die Sowjetunion ermöglichte es dem NS-Regime, die 'Endlösung der Judenfrage' in den von Deutschen besetzten Gebieten durchzuführen. Hitler entschied nun endgültig, dass die deutschen Juden nicht nach Madagaskar, sondern nach dem Osten deportiert werden sollten.

Seit September 1941 wurde im Konzentrationslager Auschwitz mit Zyklon B ein blausäurehaltiges Gas zur Vernichtung der Juden eingesetzt. Ziel des NS-Regimes war es, den Völkermord mit 'effektiven Verfahren' durchzuführen.  Im Oktober / November 1941 wurde damit begonnen, die ersten Vernichtungslager in Polen einzurichten. Anfang Dezember 1941 hat in Chelmno die erste Vernichtungsaktion mit Hilfe von Gaswagen stattgefunden.

Während die Einsatztruppen der SS im Osten längst Massenmord an polnischen und ukrainischen Juden begingen, begann im Herbst 1941 die systematische und bürokratisch geregelte Deportation der Juden aus Deutschland. Die letzte Phase der nationalsozialistischen Judenpolitik war nun ausschließlich darauf gerichtet, die europäischen Juden auszurotten. Die Auswanderung, die noch 1938/39 von den NS-Behörden forciert worden war, wurde nun förmlich verboten. Ab Oktober 1941 rollten die Deportationszüge der Deutschen Reichsbahn. Ihre Ziele waren die Ghettos von Lodz, Warschau und Lublin sowie die ehemals sowjetischen Städte Riga und Minsk. Sie waren die  Durchgangsstationen zu den Todeslagern im Osten (Belzec, Sobibor). Betroffen waren  etwa 20.000 Juden aus dem 'alten Reichsgebiet'. Dazu kamen weitere 30.000 aus der 'Ostmark' (Sammelplatz Wien) und dem 'Reichsprotektorat Böhmen und Mähren' (Sammelplatz Prag).

Ende November 1941 wurde in dem kleinen Ort Theresienstadt in Böhmen - Tschechisch Terezin - ein neues Ghetto errichtet. Bis zum Ende des Krieges wurden nahezu 74.000 Juden aus Böhmen und Mähren sowie Tausende von Juden aus anderen Gebieten des 'Großdeutschen Reiches' dorthin deportiert.

Am 29. November 1941 lud Reinhard Heydrich, der Chef des Reichssicherheitshauptamtes, eine Anzahl hochrangiger NS-Funktionäre zur "gemeinsamen Aussprache" über Probleme der "Gesamtlösung der Judenfrage in Europa" in eine Villa am Großen Wannsee ein. Das Treffen sollte am 9.Dezember 1941 stattfinden, wurde jedoch abgesagt. Neuer Termin für die "Wannsee-Konferenz" war der 20. Januar 1942. Versammelt waren dreizehn Vertreter der Bürokratie und der Exekutive des NS-Staates, die im Range von Staatssekretären und als hohe Offiziere die dritte Ebene der Führungshierarchie bildeten. Adolf Eichmann, der Judendezernent Heydrich, war für das Protokoll zuständig.

Nach der Errichtung des Vernichtungslagers Chelmno im Dezember 1941 entstanden in Polen drei weitere Lager, in denen die Juden in stationären Gaskammern getötet wurden: in Belzec seit März 1942, in Sobibor seit Mai und in Treblinka seit Juli 1942. Auschwitz-Birkenau und Lublin-Majdanek waren Konzentrations- und Vernichtungslager. Ein Teil der Juden, die dort ankamen, wurde sofort in die Gaskammern geschickt. Der andere Teil, der aus arbeitsfähigen Juden bestand, wurde in den in der Nähe eingerichteten Rüstungsbetrieben unter schwersten Bedingungen, so lange zur Zwangsarbeit eingesetzt, bis sie physisch zusammenbrachen.

1942 veranstalteten die Mordkommandos in Russland weitere Massaker. So wurden zum Beispiel von Januar bis April 1942 auf auf der Krim nahezu 100.000 jüdische Menschen getötet. Am 16. April 1942 meldete die örtliche SS nach Berlin: "Die Krim ist judenrein".

Am 22. Juli 1942 begann die Deportation von mehr als einer halben Million Juden aus dem Warschauer Ghetto in das Vernichtungslager Treblinka. Die Judenräte mussten die  Transportlisten zusammenstellen und die Marschbereitschaft der Todeskandidaten garantieren. In einem einzigen Monat wurden 66.700 Juden aus Warschau nach Treblinka gebracht und dort bei ihrer Ankunft vergast.  Ebenfalls im Juli 1942 wurden aus Amsterdam Tausende niederländischer Juden nach Auschwitz deportiert und dort in die Gaskammern gebracht. Aus Deutschland kamen Hunderte von Juden in das Ghetto von Theresienstadt.

Am 18. Januar 1943 widersetzten sich jüdische Untergrundorganisationen in Warschau einer neuen Welle von Deportationen. Am folgenden Tag drangen deutsche Truppen, ausgerüstet mit Panzern und Artillerie, in das Ghetto ein, um die Transporte in die Vernichtungslager wieder aufzunehmen. Nachdem sie für wenige Stunden aus dem Ghetto vertrieben wurde, kehrte die deutsche Militäreinheit  zurück. Sie begann nun, systematisch Straße für Straße die Häuser im Ghetto niederzubrennen und die Bewohner zu töten. Ende Mai 1943 konnte der Befehlshaber der deutschen Truppenberichten: "Das Warschauer Ghetto gibt es nicht mehr". 56.000 Warschauer Juden waren während des Aufstands verbrannt, erschossen oder deportiert worden.

Wie die Juden, so wollten die Nationalsozialisten auch die Sinti und Roma in Europa vernichten. Gemäß einem Erlass vom 16. Dezember 1942 wurden alle in Deutschland lebenden Sinti und Roma nach Auschwitz deportiert. Ende März 1943 wurde der Befehl gegeben, auch alle holländischen Zigeuner nach Auschwitz zu deportieren. Aus ganz Europa wurden zwischen 1939 und 1945 Sinti und Roma ermordet, so zum Beispiel in Polen 35.000, im Reichskommissariat Ostland 30.000, in Rumänien 36.000, in Ungarn 28.000, im Deutschen Reich (Altreich) 15.000, in Frankreich ebenfalls 15.000, in Österreich und Böhmen jeweils 6.500. Insgesamt wurden 220.000 der 700.000 in Europa lebenden Sinti und Roma ermordet.

Im 4. April 1945 erreichten US-Truppen den, südwestlich von Buchenwald gelegenen, Ort Ohrdruf. Dort waren am Vorabend des Eintreffens der Amerikaner noch Hunderte erschossen worden. Der 11. April war der Befreiungstag für das Lager Buchenwald. Am 15. April 1945 kamen britische Truppen nach Bergen-Belsen. Sie stießen auf 10.000 nicht begrabene Opfer, von denen die meisten verhungert waren. Am 29. April wurde von den Amerikanern das Lager Dachau erreicht. Im letzten Kriegjahr waren dort 40.000 Gefangene ums Leben gekommen, von denen 80 Prozent Juden waren. Das letzte Konzentrationslager, das von den Amerikaner befreit wurde, war Mauthausen. Dort waren in letzten vier Monaten des Krieges 30.000 Menschen, davon 15.000 Sinti und Roma, entweder ermordet oder dem Hungertod überlassen worden. Von den 110.000 Überlebenden, von denen 28.000 Juden waren, starben mehr als 3.000 nach der Befreiung, weil sie nicht mehr gesund gepflegt werden konnten.

Am 8. Mai 1985 hielt der damalige Bundespräsident Richard von Weizsäcker anlässlich des 40. Jahrestags der Befreiung vom Nationalsozialismus eine Rede, in der er auch auf die Ermordung der Juden während des Dritten Reiches einging. Weizsäcker sagte: "Der Völkermord an den Juden ... ist beispiellos in der Geschichte. Die Ausführung des Verbrechens lag in der Hand weniger. Von den Augen der Öffentlichkeit wurde es abgeschirmt. Aber jeder Deutsche konnte miterleben, was jüdische Mitbürger erleiden mussten, von kalter Gleichgültigkeit über versteckte Intoleranz bis zu offenem Hass. Wer konnte arglos bleiben nach den Bränden der Synagogen, den Plünderungen, der Stigmatisierung mit dem Judenstern, dem Rechtsentzug, der unaufhörlichen Schändung der menschlichen Würde? ... Es gab viele Formen, das Gewissen ablenken zu lassen, nicht zuständig zu sein, wegzuschauen, zu schweigen. Als dann am Ende des Krieges die ganze unsagbare Wahrheit des Holocaust herauskam, beriefen sich allzu viele von uns darauf, nichts gewusst oder auch nur geahnt zu haben. Schuld oder Unschuld eines ganzen Volkes gibt es nicht. ... Der ganz überwiegende Teil unserer Bevölkerung war zur damaligen Zeit entweder im Kindesalter, oder noch gar nicht geboren. Sie können nicht eine eigene Schuld bekennen, für Taten, die sie gar nicht begangen haben. ... Aber die Vorfahren haben ihnen eine schwere Erbschaft hinterlassen. Wir alle sind von ihren Folgen betroffen und für sie in Haftung genommen. ... Wer aber vor der Vergangenheit die Augen verschließt, wird blind für die Gegenwart ... Das jüdische Volk erinnert sich und wird sich immer erinnern. Wir suchen als Menschen Versöhnung".

Bei einer Gedenkveranstaltung zum 60. Jahrestag des Kriegsendes im Reichstagsgebäude in Berlin  mahnte Bundespräsident Horst Köhler, den Schrecken des Nationalsozialismus und seine Opfer niemals zu vergessen. Vor den Vertretern des Bundestages und des Bundesrates sagte er: "Wir Deutsche blicken mit Schrecken und Scham zurück auf den von Deutschland entfesselten Zweiten Weltkrieg und auf den von Deutschen begangenen Zivilisationsbruch Holocaust. Wir gedenken der sechs Millionen Juden, die mit teuflischer Energie ermordet wurden.". An einer anderen Stelle seiner Rede sagte er: "Wir haben die Verantwortung, die Erinnerung an all das Leid und seine Ursachen wach zu halten, und wir müssen dafür sorgen, dass es nie wieder kommt. Es gibt keinen Schlussstrich."