Das rasante Bevölkerungswachstum in der zweiten Hälfte des 19. Jrh. hatte auch in den Stadtteilen Margareten, Matzleinsdorf und Meidling eine Kirchennot zur Folge. So begann man um 1905 mit dem Bau einer so genannten Notkirche am oberen Gaudenzdorfer Gürtel, welche im Folgejahr Pfarrkirche der neu gegründeten Pfarre Neumargareten wurde. Es war eine schlichte Kirche mit einem Glockenturm mit quadratischem Grundriss und Spitzdach. Ein massiver Portalvorbau bildete den Mittelpunkt der Fassade. 1934 erlitt die Kirche Schäden durch Einschüsse, was in den Jahren 1941 bis 1943 im Zuge von Renovierungsarbeiten behoben wurde. 1944 wurde die Kirche durch Bomben vollständig zerstört, worauf man in der Tanzschule im benachbarten Reumannhof eine provisorische Ersatzkirche einrichtete. Im Sommer 1949 begann man mit der Planung und dem Bau der neuen Pfarrkirche Neumargareten. Sechs Jahre später wurde der Pfarrhof hinzugebaut. Bei der Kirche, welche unter dem Patrozinium der unbefleckten Empfängnis Mariens steht, handelt es sich um einen einfachen, eher nüchternen Bau ohne Turm an exponierter Lage.