Die Kirche, welche auf der Fläche eines ehemaligen Weinberges steht, wurde in drei Bauperioden errichtet: 1686-89, 1711-15 und 1721-26. Sie wurde in die Hände des Barnabitenordens übergeben. Später übernamen die Salvatorianer die Obhut der Kirche, bis sie schliesslich im Jahre 1979 an die Michaeliten übergeben wurde.
Die Namensgebung der Kirche geht auf das Marienbildnis zurück, dessen Original sich in Passau befindet und von Lukas Cranach dem Älteren zwischen 1520 und 1530 geschaffen wurde. Das Bild ist im byzantinischen Stil gemalt und stellt die Gottesmutter als Theotokos Glykophilousa - die Zärtliche - dar. Die sogenannte Mariahilfverehrung in Mitteleuropa wurde stets wichtiger und ging von Passau aus. Die Kopie des Gnadenbildes, welche sich in einer Strahlenmonstranz im Hochaltar der Mariahilfer Kirche befindet, gab der Kirche, der Strasse und dem ganzen Stadtbezirk den Namen.

Die Kirche ist im barocken Stil gebaut. Die heutige Gestalt stammt aus dem Jahre 1792. An der Innenaustattung waren namhafte Künstler beteiligt wie Jakob Müsl (Bildhauerarbeiten), J. Hauzinger und F.X. Strattmann (Fresken) und Johann Georg Dorfmeister (Altäre). Die Orgel ist das Werk von Johann Hencke und stammt aus dem Jahre 1763. Das Rokokogehäuse hat der Bildhauer Leitner erschaffen.

Im linken der beiden 52m hohen Türme ist nach der Pummerin im Stephansdom die zweitgrösste Glocke Wiens angebracht, der „Schustermichel“ mit einem Gewicht von rund 4.5 Tonnen.
Der Bau der U-Bahn Linie 3 brachte das Gotteshaus in grosse Gefahr. Durch die Tunnelarbeiten veränderte sich die Erdmechanik, was dazu führte, dass sich die beiden Türme Richtung Mariahilferstrasse neigten, während sich das Kirchenschiff Richtung Gumpendorferstrasse senkte. Durch die Kooperation städtischer Institutionen konnte das Unglück verhindert werden, indem vier grosse Stahlanker angebracht wurden, welche die Turmfassade mit dem Schiff für immer zusammenhalten sollen.
Seit August 2004 erstrahlt nach längeren Renovationsarbeiten die in weiss und grau gehaltene Turmfassade in neuem Glanz.