Der Ursprung der kleinen Kirche in Heiligenstadt geht ins 5. Jrh. zurück als hier eine Grabstätte angelegt wurde. Ausgrabungen unter der Kirche brachten Mauerreste einer römischen Wehranlage aus der Zeit Marc Aurels (ende 2. Jrh.) zum Vorschein Ein Dokument von 1105 beschreibt eine Severinsverehrung, welche hier praktiziert wurde, und eine andere Schrift aus dem Jahre 1243 besagt, dass die Jakobskirche zum Stift Klosterneuburg gehörte, von dem sie jedoch 1246 abgetrennt wurde. Während der Türkenbelagerungen wurde die Kirche jeweils zerstört und wieder aufgebaut. Um 1745 schenkte Kardinal Fürst von Kollonitz der Kirche eine Reliquie des hl. Severin.
Die kleine romanische Kirche ist schlicht konzipiert mit einem leicht nach links verschobenem Presbyterium. Von den Rundbogenfenstern stammt eines aus dem 16. Jrh., welches sich erhalten konnte. Der Kreuzwegzyklus von Leopold Scholz stammt aus dem späten 19. Jrh.