Prvi temelji crkve i samostana prema projektu Franje Schüchta postavljeni su 1841. godine te je početo s gradnjom koje je dovršeno 1845. godine. Crkva je središnjica samostana sa zajedničkim pročeljem u ravnini.
Posveta crkve bila je 14. travnja 1846. godine kao i blagoslov sestara i samostana te se taj dan još naziva „svečano ustoličenje sestara milosrdnica u Zagrebu“. Crkvu je posvetio kardinal Juraj Haulik, prvi zagrebački nadbiskup, koji je i vodio svu gradnju crkve i samostana.
Do 1860. godine crkva je odgovarala srednjoj lađi današnje crkve, tada pokrajnjih lađa još nije bilo. Osim glavnog oltara crkva nije imala nikakvog namještaja. Imala je sakristiju koja se nalazila na mjestu današnjeg oltara Gospe Žalosne, to je bila tek “crkvica”. Visina joj se podudarala s visinom obiju samostanskih zgrada i tek je niski toranj bio znak da je u središtu samostana crkva.
Prva nadogradnja i daljnje uređenje (1860.)
Samostanu je nadograđen drugi kat, a crkva je nadograđena u visinu, 1860., prema projektu Michaela Strohmayera, dobivši novi odgovarajući toranj, kameni portal koji je sa svojim širokim stubištem pomaknut naprijed.
Crkva je proširena prema dvorištu kao što je i danas, izgrađeno je današnje svetište kao i sakristija te prostorija nasuprot sakristije – oratorij.
Na prijašnjem mjestu sakristije postavljen je oltar Majke Božje Žalosne, a nasuprot oltar Svetoga Križa. Crkva je dobila još dva oltara prislonjena uza zid s lijeve i desne strane kod ulaza u svetište, oltar BDM od krunice i sv. Josipa, kao i cjelokupni crkveni namještaj: propovjedaonicu, klupe, ispovjedaonice, tabernakul na glavnom oltaru i 14 okvira za slike križnog puta. Sav spomenuti namještaj izradili su zatvorenici iz kaznionice u Lepoglavi tehnikom fine intarzije na drvu.
Povećanjem crkve povećao se i kor, a za potporanj su mu dodana uz dva još dva kamena stupa koja i danas postoje.
Produženjem crkve produžila se i grobnica sestara koja se nalazi ispod crkve – gruft.
Povećana crkva blagoslovljena je 20. rujna 1860. godine.
Pozlaćeni križ na vrh tornja dignut je 17. prosinca 1861. godine, a nova crkvena zvona donesena iz Ljubljane stavljena su u toranj i blagoslovljena 19. kolovoza 1863., tada je stavljen je i veliki sat s posebnim mehanizmom na sve četiri strane tornja, donesen iz Innsbrucka.
Druga nadogradnja i uređenje (1899.)
Drugu nadogradnju 1899. godine nadgledao je dr. Andrija Jagatić, III. superior Družbe, prema projektu Martina Pilara. U toj nadogradnji izgrađene su obje pokrajnje lađe i nad njima korovi kao i prostorija iznad sakristije i oratorija.
Uz sakristiju postavljen je oltar Srca Isusova, a na suprotnoj strani oltar Srca Marijina.
Crkva je oslikana 1902. godine pod vodstvom mons. Matije Seigerschmieda, IV. superiora Družbe.
Nove orgulje dobila je 1906. godine, izradila ih je kao svoj 190. opus zagrebačka radionica orgulja “M. Heferer” s dva manuala i 22 registra te svojom jačinom odgovaraju veličini crkve.
Električne žarulje postavljene su 1910. godine.
Uređenja crkve (1956., 1965., 1980. i 1985.)
Crkva je 1956. godine dobila jednolični sivi ton jer se tada smatralo da siva boja potiče na sabranost.
Prigodom proslave 100. godišnjice Lurdskih ukazanja 1958./59., na desnoj strani crkve, pod korom, današnji izlaz na hodnik prizemlja, izgrađena je replika Lurdske špilje u koju je iz samostanskog vrta prenesen kip Gospe Lurdske, a danas se nalazi na desnoj strani kod glavnog ulaza u crkvu.
U postkoncilsko doba, nakon 1965., crkva je dobila oltar okrenut prema puku, a pričesna ograda je maknuta i upotrijebljena za postament novog liturgijskog oltara i ambona.
Svjetliji i ljepši ton boja zidova ukrasio je crkvu 1980. godine, a doprinijele su tomu i svjetlije mramorne ploče u visini od 145 cm kojima su obloženi svi zidovi, čime je znatno olakšano održavanje crkve.
Pročelje crkve uređeno je 1985., kada se uređivalo i pročelje samostana, tada su iznad portala crkve obnovljena oba natpisa i grb kardinala Jurja Haulika te je izrađen novi bakreni križ i podignut na zvonik crkve prigodom 140. godišnjice dolaska sestara milosrdnica u Zagreb, 5. rujna 1985.
Dovršena obnova nakon oštećenja od potresa (2022.)
Radi se o prvoj građevini sakralne namjene koja je nakon zagrebačkog potresa 2020. godine cjelovito obnovljena bespovratnim financijskim sredstvima iz Fonda solidarnosti Europske unije.
Autori arhitektonskoga projekta adaptacije i obnove crkve su prof. dr. art. Nenad Fabijanić i arhitektica Leila Nanuk. Restauratorska istraživanja i zahvate vodila je Marija Reberski, dok je, uz nadležnu konzervatorsku službu, kao voditelj natječajne prijave te stručni konzultant za pitanja zaštite i obnove graditeljskog naslijeđa sudjelovao Boris Dundović, mag. ing. arch. i konzervator arhitekt, stručni suradnik Instituta za povijest umjetnosti.