V parku na místě bývalých hradeb severovýchodně od Poříčské brány vyrostla nevelká budova kavárenského pavilonu. V roce 1876 tu začal provozovat svůj podnik kavárník E. Ponec. Jeho podnikání v tomto místě ovšem příliš úspěšné nebylo. Budova byla proto městskou radou na konci roku 1882 svěřena Městskému museu pražskému, jehož založení bylo schváleno 3. října roku 1881. Muzeum v pavilonu 12. května v roce 1883 otevřelo svoje první expozice. K pavilonu byl v letech 1896–1898 století přistaven „přístavek" – dnešní hlavní expoziční budova muzea. Vlastní pavilon byl zbořen v roce 1974 v souvislosti s výstavbou severojižní magistrály.
Kavárenský pavilon byl postaven v roce 1876 v místech původního hradebního bastionu sv. Kryštofa. Muzeum jej získalo pro své sbírky v roce 1882 a v roce 1883 zde otevřelo první expozici, fotografie po roce 1883, MMP H 99 909.
Nejstarší plánovaná dokumentace řešící přístavbu městského muzea pochází z prosince roku 1889. Již tehdy městský stavební úřad plánoval budoucí rozšíření muzea: bylo jasné, že bezprostředně zastavovaný prostor muzejním potřebám stačit nebude, počítalo se s budoucí dostavbou. Dne 15. ledna 1893 byly předloženy k posouzení dvoje skici architektů A. Wiehla a J. Kouly. Na počátku roku 1884 byl schválen návrh Wiehlův. S dodáváním podrobných plánů a rozpočtů byly ale posléze téměř permanentní těžkosti. Tedy reálný záměr postavit přístavek existoval, realizace se ale ve skutečnosti stále ztrácela v nedohlednu. Určitým tlakem na uskutečnění plánu se stala Národopisná výstava konaná v roce 1895. Bylo jasné, že muzeu při této příležitosti přibude velké množství kvalitních sbírkových předmětů, které nebude kde uložit, či dokonce důstojně uložit v již nyní přeplněném bývalém kavárenském pavilonu.
V letech 1896–1898 byla ke kavárenskému pavilonu podle návrhu architekta Antonína Balšánka přistavěna dnešní neorenesanční budova, MMP H 13 874/1-2.
Městská rada se v srpnu 1895 usnesla, že vyhotovení plánů zadá architektu A. Balšánkovi. Jeho návrhy pak schválil sbor obecních starších na samém konci roku 1895. Na jaře 1896 konečně začala stavba nové neorenesanční budovy. Z těchto let pocházejí i architektovy návrhy na stavbu „velkého", dvoj či čtyřkřídlého muzea. A zároveň na jaře toho roku začala skutečná výstavba přístavku Městského musea pražského. Dne 22. října 1898 proběhla jakási neveřejná vernisáž nové budovy a následovaly dva roky intenzivní instalační činnosti, při níž spolupracovali tehdejší ředitel B. Jelínek a jeho následovník F. X. Harlas. Od poloviny března do poloviny května roku 1899 byla budova Pražanům přechodně otevřena posmrtnou výstavou děl L. Marolda. Definitivně byla nová budova otevřena veřejnosti 27. září roku 1900.