Als die Bevölkerung in den Wiener Vororten ab Mitte 19. Jrh. explosionsartig zunahm, entschloss sich Kardinal Fürsterzbischof Josef Othmar von Rauscher im Jahre 1875, eine Pfarre zu gründen. Für eine Kirche mit Pfarrhof erwarb er folglich das notwendige Grundstück in der „Schmelz“. Nach der Baugenehmigung erfolgte am 27. September 1893 durch Kardinal Fürsterzbischof Dr. Anton Grouscha der feierliche Spatenstich im Beisein Kaiser Franz Josephs. Die Bauzeit betrug rund sechs Jahre, und am 21. November 1899 wurde das neue Gotteshaus eingeweiht. Neben der Funktion als Pfarrkirche sollte der Bau gleichsam Gedenkstätte für Kronprinz Rudolf sein, nach dem der Bezirk und somit die Kirche benannt ist.
Wie zahlreiche Kirchen in Wien aus dem 19. Jrh. ist die Rudolfsheimer Pfarrkirche ein neugotischer  Bau. Der dreischiffige Kirchenraum ist sehr grosszügig und harmonisch ausgestattet.

Das Hochaltarbild ist dreiteilig und stammt von Josef Reich. Es zeigt Motive aus dem Patrozinium der Kirche, namentlich Maria, Königin der Märtyrer. Diese ist im mittleren Teil des Gemäldes dargestellt zusammen mit dem hl. Petrus und dem hl. Stephan. Beeindruckend ist die steinerne Kanzel mit dem Kanzeldeckel aus Holz. Sie ist als Gegenstück zum Herz-Jesu-Altar links von der Apsis angebracht. Die sehr lautstarke Orgel mit elektropneumatischem Antrieb stammt aus dem Jahre 1903. Der Zweite Weltkrieg brachte auch über Rudolfsheim-Fünfhaus Zerstörung und Verwüstung. So wurde am 21. Februar 1945 die Kirche von Bomben schwer beschädigt, wobei die kunstvoll bemalten Fenster im Kirchenschiff in die Brüche gingen. Diejenigen in der Apsis und über dem Josefsaltar sind die einzigen, welche unversehrt geblieben sind. Weit sichtbar ist der 76 Meter hohe Kirchturm mit dem aus fünf glocken bestehenden Geläut. In den Jahren 1964 und 1966 wurde die Rudolfsheimer Pfarrkirche rundum renoviert und von den letzten Spuren des Zweiten Weltkriegs befreit.