Laut einer Urkunde hat hier in Gumpendorf bereits um 1244 eine Kirche existiert. Als mit der Zeit die Bevölkerung anwuchs und die bestehende Kirche zu klein geworden war, beauftragte man den Baumeister Josef Reymund mit der Errichtung einer neuen und grösseren Kirche. Vom Vorgängerbau verwendete man die Quadersteine für den Sockelbau der neuen Kirche. Drei Jahre später, um 1768, wurden die Gewölbe gebaut. Um 1804 wurde eine mechanische Turmuhr installiert, und erst am 1. Mai 1820 erfolgte die endgültige Einsegnung der neuen Gumpendorfer Pfarrkirche durch Erzbischof Sigmund Graf Hohenwart. Geweiht ist das Gotteshaus dem Jagdpatron St. Aegidius.
Die Fassade und der mittige Turm sind ähnlich wie bei der Kirche St. Laurenz im barock-klassizistischen Stil gehalten. Über den äusseren Riesenpilastern stehen die Statuen der Heiligen Leopold und Josef. Der Hochaltar, die Trinität, die Figuren der Heiligen Peter und Paul sowie zwei Tabernakelengel sind das Werk von Josef Kleiber und stammen aus dem Jahr 1826.

An der Hauptfassade ist eine Gedenktafel mit einem Bronzerelief Joseph Haydns von Robert Ullmann eingelassen, welche daran erinnert, dass der Leichnam des grossen Komponisten am 1. Juni 1809 in der Gumpendorfer Pfarrkirche eingesegnet wurde. Haydn starb am Vortag in seinem Haus an der heutigen Haydngasse unweit der Kirche.