Rudiger de Zolre (später „Zoller“), ein Gefolgsmann des Grafen Friedrich von Hohenzollern und Burgherr am nördlichen Ufer des Wienflusses im heutigen Penzing, stellt im Jahre 1267 ein von Eichen gesäumtes Gelände zum Bau einer Kirche zur Verfügung. Das Gelände lag aufgrund der Überschwemmungsgefahr erhöht über dem Wienfluss. Um 1324 wurde das Gotteshaus zur Pfarrkirche erhoben und in den Folgejahren mehrmals vergrössert und ausgebaut. Um 1365 erteilte Rudolf IV. der Stifter der Pfarre das Patronatsrecht. Nach abermaliger Vergrösserung reichte die Kirche dennoch nicht mehr aus für die wachsende Bevölkerungszahl, was eine weitere Vergrösserung vonnöten machte. Während der beiden Türkenbelagerungen erlitt die Kirche jeweils grosse Schäden. Um 1758 gab Maria Theresia eine Erweiterung und die heutige barocke Ausstattung in Auftrag, welche nach Plänen von Matthias Gerl angefertigt wurde. Am 9. April 1945 beschossen russische Truppen den Kirchturm, welcher darauf vollständig ausbrannte. Dabei wurden das Dach der Sakristei und die Kirchenfenster zerstört. Erst um 1980 wurde der Turm in vereinfachter Form wieder instand gestellt. Er erhielt ein schlichtes Spitzdach anstelle des einstigen barocken Helmdachs. Im selben Zuge wurde das Innere restauriert.

Die spätgotische Pfarrkirche Penzing war ursprünglich zweischiffig, erhielt jedoch durch die mehrfachen Umbauarbeiten ihre heutige Gestalt. Durch das einfache Spitzdach des Turmes wirkt die Kirche auf den ersten Blick unscheinbar, obwohl sie als älteste Kriche Penzings architektonisch bedeutend ist. Das dreijochige Langhaus mit den Seitenemporen endet im gotischen Chor mit Netzrippengewölbe. Der barocke Hochaltar mit ausgeprägtem Sprengwerk wurde im Jahre 1776 angefertigt. In seiner Mitte befindet sich das grosse Altargemälde von 1766, welches den Kirchenpatron Jakobus im Gebet zeigt. Das barocke Orgelgehäuse stammt aus dem Jahre 1776. Die Seitenaltäre wurden erst um 1845 hinzugefügt, und die klassizistische Kanzel noch später um 1870.

Im Jahre 1969 wurden die Fresken von 1720, welche Szenen aus dem Leben Jesu und Mariens zeigen, freigelegt und restauriert. Um 1981 erhielt die Kirche eine neue Orgel. An der Aussenwand ist eine grosse Gedenktafel für die Penzinger Opfer des Weltkrieges angebracht. Gegenüber auf der anderen Strassenseite steht eine gotische Lichtsäule. Sie ist das einzige Überbleibsel des einstigen Friedhofes, der die Kirche umgab und um 1879 aufgrund des Strassenbaus aufgelassen und verlegt wurde. Sie wird Lichtsäule genannt, weil es Brauch war, an ihr Kerzen für die Verstorbenen brennen zu lassen. Der Tabernakelpfeiler mit dem Kreuzigungsrelief stammt aus dem 15. Jrh. Einer Sage zufolge soll ein kleiner Bub aus Penzing sich während der Türkenbelagerung in der Nische der Lichtsäule versteckt und so die Verwüstung und Zerstörung überlebt haben.

Die Lichtsäule