Efter andra världskrigets utbrott utvecklades nazisternas politik mot romer i rask takt från diskriminering, marginalisering och trakassering till ett folkmord. Personer med romskt påbrå avskedades från den tyska krigsmakten och arresterades. I ockuperade länder följde utvecklingen ungefär samma mönster som för judarna. I polska Lódź stängdes till exempel romerna in i ghettot tillsammans med judarna och i det ockuperade Sovjet dödade SS mordkommandon romer i massavrättningar tillsammans med judar, kommunister och andra påstådda säkerhetsrisker. I Baltikum och Krim beordrade de tyska myndigheterna mord på kringresande romer, som anklagades för att spionera för fienden eller sprida sjukdomar. I många fall drabbade dessa order även bofasta, icke-traditionella romer.
I Tyskland och andra ockuperade länder i väst, till exempel Frankrike eller Nederländerna, mördades romerna oftast inte på plats. Istället arbetade tyska SS systematiskt, från och med slutet av 1942, för att flytta de flesta kvarlevande romerna till de tyska koncentrations- eller utrotningsläger. Ett undantag var Norge, där fanns det planer på att förinta de norska resande i inhemska koncentrationsläger men det hann inte fullföljas innan befrielsen 1945.
I dödslägret Auschwitz upprättade lägerförvaltningen en särskild ”zigenaravdelning”. Som mest hölls där cirka 20 000 romska fångar från nästan hela Europa. Den ökända SS-läkaren, doktor Josef Mengele, utförde hemska experiment på romer. Både vuxna och barn drabbades.
Natten mellan den 2 och 3 augusti l944, den så kallade Zigenarnatten, likviderades alla fångarna på ”zigenaravdelningen”.
I länder där regimen var allierad med eller stödd av Nazityskland genomfördes liknande antiromska åtgärder. Ett av de mest brutala var Ustašas mordkommandon i det fascistiska Kroatien. En del romer från Kroatien skickades också till koncentrationsläger i Italien. I Ungernskickades romer till samlingsläger, ibland för vidaresändning till tyska läger. Den rumänska regeringen tvångsförflyttade tiotusentals romer till det ockuperade området Transnistrien, nuvarande Moldavien ochUkraina, där många svalt ihjäl under fruktansvärda förhållanden. BlandTysklands allierade var det endast Finland som inte systematiskt trappade upp sina förföljelser av romer under kriget, även om befintliga lagar kunde tillämpas på ett hårdare sätt.
Det finns ingen exakt statistik över hur många europeiska romer som miste livet under andra världskriget. Detta beror på bristande källmaterial och avsaknaden av pålitliga siffror för hur stor Europas romska befolkning var före kriget. Uppskattningarna varierar därför kraftigt. Historiker, som bygger sina slutsatser på förövarnas fragmentariskt bevarade dokumentation, beräknar antalet offer till 100 000–200 000 av en förkrigspopulation på cirka 1 miljon. Andra forskare tar hänsyn till källor som till exempel muntliga berättelser och hävdar då att folkmordet krävde mellan 1 och 1,5 miljoner romska offer. Nationalencyklopedin (2010) uppger 2 miljoner som ett möjligt antal medan bland annat den norske forskaren Jahn Otto Johansen anser att omkring 500 000 offer är mest troligt, det vill säga ungefär hälften av Europas romska befolkning.
Romerna var dock inte bara passiva offer. I länder som till exempel Italien eller Bulgarien finns det fall därromer deltog aktivt i motståndsrörelsen. Till och med i Auschwitz förekom det flyktförsök och andra uttryck för romskt motstånd mot förtrycket.
