1941-ben minden megváltozott. Az úgynevezett első zsidótörvény kiadásával megkezdődött a zsidóság egyéni és kollektív jogfosztása, kisemmizése. 1941-től a férfiakat munkaszolgálatra vitték, Kisvárdán 1942-ben munkaszolgálatos tábor létesült.

A kisvárdai gettó a Horthy Miklós út bal oldalán kezdődött, és kiterjedt a Deák Ferenc és a Petőfi utcára, a Mátyás király út bal oldalára, valamint a Szent László utca egyes részeire. A gettó területe magában foglalta a zsinagógát is. Ahol lehetett, a házak közt a kerítéseket lebontották, így közös udvara lett a gettóba zárt zsidóságnak.

Az első vonatok után a hátrahagyottak közül több zsidót a csendőrök kivittek a fatelepre, hogy rendet csináljanak. Ők megtudták, hogy a vonatok nem a Hortobágy felé indultak, mint azt remélték, hanem Csap irányába, vagyis kivitték a zsidókat az országból. Erre a hírre többen öngyilkosságot követtek el. Május 30-án próbát tartottak, felsorakoztatták a gettóban lévőket a zsidó iskolánál, 31-én pedig a második szállítmány is útnak indult. Néhány embernek sikerült elbújnia a gettó kiürítésekor, ők pár nap múlva Pestre szöktek.

A vagonok Kassán keresztül futottak Auschwitz-Birkenauba. A kassai vasútállomáson a németek vették át a szerelvényeket. Egy ott készült feljegyzés szerint Kisvárdáról május 30-án futott be az első szerelvény, 3475 fővel, június 2-án pedig a második, azon 3421-en utaztak.

A holokausztot túlélő kisvárdaiak nem mindegyike tért vissza lakóhelyére. 1946-ban 804, 1948-ban 650 zsidó élt a településen. Ez évben a gettó egyik utcájának nevét Mártírok útjára változtatták. 1949-ben márványtáblába vésték a kisvárdai és a vidéki áldozatok névsorát.

Akkor Kisvárdán 446 izraelita élt. A következő évtizedekben a zsidók száma folyamatosan csökkent, 1975-ben a zsinagógát is eladták a helyi tanácsnak. 2001-ben még 11 kisvárdai vallotta magát zsidónak. Mára számuk négyre csökkent.

Ma az egykori zsinagóga épületében tartottak méltóságteljes megemlékezést.