Det började med en rädsla för bomber. Under 1930-talet trodde man att en fientlig bombning av London skulle kunna kräva uppemot 200 000 offer i veckan, och regeringen insåg att den behövde en skyddad plats att styra från. År 1938 fick Office of Works i uppdrag att hitta en lämplig källare i Whitehall. Valet föll på New Public Offices, en byggnad nära Parliament Square. I juni samma år påbörjades ombyggnaden: kommunikationsutrustning installerades, väggar ljudisolerades, ventilation och förstärkning byggdes, och eftersom rummen ligger under Themsens nivå installerades också översvämningsdörrar och pumpat.
Den 27 augusti 1939, bara en vecka innan Storbritannien förklarade Tyskland krig, blev anläggningen operativ. Här skulle regeringen och militärledningen kunna arbeta under jord. Under kriget kom rummen att bli navet för den brittiska krigsledningen. Map Room bemannades dygnet runt av officerare från flottan, armén och flygvapnet, som sammanställde underrättelserapporter till kungen, premiärministern och försvarscheferna.
I Cabinet Room sammanträdde premiärministern och hans närmaste med de tre försvarscheferna. Sekretessen var rigorös; två vakter posterade utanför dörren under möten som kunde pågå långt in på småtimmarna. Winston Churchill, som blev premiärminister 1940, besökte rummet i maj samma år och lär ha sagt: "Detta är rummet från vilket jag ska leda kriget." Totalt hölls 115 kabinettsmöten i Cabinet War Rooms, det sista den 28 mars 1945.
För att öka skyddet installerades 1940 ett tjockt lager betong, känt som "the Slab", upp till 1,5 meter tjockt. Det gjorde att anläggningen kunde byggas ut till tre gånger sin ursprungliga storlek. Här fanns sovsalar, privata sovrum för officerare och ministrar, rum för typister och telefonväxel. Efter Japans kapitulation i augusti 1945 övergavs anläggningen, och den förseglades. År 1984 öppnades Cabinet War Rooms för allmänheten, och 2005 genomgick museet en stor ombyggnad då även Churchill Museum tillkom. Sedan 2010 heter hela museet Churchill War Rooms.