26 września 1964 r., w lokalu Centralnego Ośrodka Doskonalenia Kadr Kierowniczych przy ul. Wawelskiej 56 otwarto pierwszą wystawę dotyczącą historii Pawiaka w latach 1939–1944, na której zaprezentowano cudem ocalałe z ruin więzienia przedmioty, dokumenty oraz makietę więzienia i projekt przyszłego Muzeum.

Wraz z otwarciem Muzeum zaprezentowano też w jego wnętrzach pierwszą stałą wystawę, która funkcjonowała aż do 1991 r. Oprócz odtworzonych wnętrz dawnego korytarza VII wraz z pięcioma celami, które zrekonstruowano na podstawie zachowanej dokumentacji, rysunków i relacji byłych więźniów pamiętających jeszcze czasy rozbiorów, wyeksponowania oryginalnych części wyposażenia, zrealizowano w tej części Muzeum, w jednej z sal, seans „Światło i dźwięk”, w którym odczytywane były (z taśmy magnetofonowej) grypsy, pisane potajemnie przez więźniów i wysyłane drogą konspiracyjną, w pięciu wersjach językowych: polskiej, angielskiej, rosyjskiej, niemieckiej i francuskiej. Powyższa część ekspozycji cieszyła się największym zainteresowaniem i tak pozostało do dzisiejszego dnia.

W latach 1965–1988 istniała w Muzeum sala kinowa, gdzie można było obejrzeć filmy dokumentalne dotyczące II wojny światowej. Niestety, wskutek negatywnej opinii wystawionej przez kontrolę przeciwpożarową, została zlikwidowana i zamieniona na salę wystaw czasowych.

W największej sali, znajdującej się po lewej stronie wejścia do Muzeum, powstała ekspozycja prezentująca dzieje Pawiaka w trzech okresach historycznych: carskim 1863–1918, międzywojennym 1918–1939 i okupacji niemieckiej 1939–1944. Autorkami scenariusza były: Anna Dymek, Alina Garbara, Bożena Krzywobłocka, Maria Rutkiewicz i Helena Wiórkiewicz. Projektantką założenia plastycznego była Barbara Cybulska.

Druga stałą wystawę otwarto 19 kwietnia 1991 r. Scenariusz opracowała Barbara Izdebska, a projekt plastyczny Tadeusz Bochen. Ekspozycja ta poświęcona była latom niemieckiej okupacji 1939–1944 i prezentowała głównie pamiątki zgromadzone wcześniej w Muzeum. Ciekawym rozwiązaniem plastycznym było pokazanie w dużej sali odtworzonych zasieków ulicznych z drutu kolczastego oraz słupów ogłoszeniowych oklejonych zarówno niemieckimi obwieszczeniami, jak i afiszami towarzyszącymi codziennemu życiu. Nastrój okupacji pogłębiały nagrania odtwarzające odgłosy Warszawy z lat wojny.

Trzecią wystawę stałą otwarto w Muzeum 26 czerwca 2001 r. i jest ona prezentowana do chwili obecnej. Autorami scenariusza są: Magdalena Woltanowska, Andrzej Krzysztof Kunert i Joanna Gierczyńska. Projekt aranżacji plastycznej opracowały Violetta Damięcka i Żaneta Govenlock.