Ursprünglich stand an der Ecke, wo der Hafnersteig von der Griechengasse hinunter zum Franz Josefs-Kai führt, die Gastwirtschaft „Küss den kleinen Pfennig“, welche in der Zeit zwischen 1803 und 1806 in eine Kirche umgebaut wurde. 1898 wurde der Glockenturm angebaut und der Eingang an der Griechengasse angelegt. Der Ausbau und die Gestaltung der Kirche wurde von Nikolaus Dumba finanziell grüsszügig unterstützt. Am hinteren Ende des Kirchenschiffes befindet sich ein Narthex (schmale Vorhalle altchristlicher und byzantinischer Kirchen), über dem eine Empore liegt. Die kunstvoll bemalten Glasfenster an der Seite zur Griechengasse wurden im Zweiten Weltkrieg zerstört, danach aber teilweise wieder hergestellt. Das Bildnis im Giebel auf der einem griechsichen Tempel nachempfundenen Turmseite zeigt den heiligen Georg als Drachentöter.
Das Innere der Kirche ist relativ schlicht ausgestattet. Die dreitürige Holzwand (Ikonostase), welche zwischen dem Altarraum und dem Kirchenschiff liegt zeigt Gemälde der Hauptikonen hl. Georg, Maria Mutter Gottes, Christus und Johannes der Täufer und ferner Szenen aus dem Alten Testament und den Festtagszyklus. Die fünf grossen Gemälde an der gegen Norden gerichteten Innenwand sind ein Werk des Malers Constantinos Parthenis. In der Kuppel, in der ein kunstvoller goldener Lüster hängt, stehen die Büsten der vier Evangelisten, und an der Decke gegen den Altarraum hin befindet sich ein medaillonförmiges Gemälde, welches Christus Pantokrator (thronender Christus in der byzantinischen Kunst) zeigt.