Als 1861 der Reichsrat geschaffen wurde, plante man den Bau zweier getrennter Gebäude je für das Herrenhaus und das Abgeordnetenhaus. Nach dem Ausgleich mit Ungarn jedoch wurde dieser Plan nichtig, und man begann mit dem Projekt eines Monumentalbaus, dessen Spatenstich am 2. September 1874 unter der Leitung des Architekten Theophil Hansen erfolgte. Neun Jahre später wurden die neuen Räumlichkeiten von den beiden Häusern bezogen, welche hier tagten bis zum Ende der Österreich-ungarischen Monarchie. Hansen war zur gleichen Zeit als Lehrkraft für antike Baukunst an der Akademie in Wien tätig. Zu seinen Schülern gehörte der berühmte Architekt Hans Auer, der das prunkvolle Bundeshaus in Bern errichtete. Für den Bau des Wiener Parlaments zog man Materialien heran aus fast allen Monarchien. Dies sollte das Zusammenströmen der Kräfte „aller im Reichsrat vertretenen Königreiche und Länder“ symbolisieren. Während des Zweiten Weltkrieges war im Parlamentsgebäude die Gauleitung mit Reichsverteidigungskommissar Baldur von Schirach an der Spitze einquartiert.

In den Kellergewölben hat er sich seinen privaten Schiessstand eirichten lassen. Wurde Fliegeralarm geschlagen, brauste von Schirach mit seinem Auto stadtauswärts die Thaliastrasse entlang zu seinem Gefechtsstand am Gallitzinberg. Die Wiener gaben der Thaliastrasse daher den spöttischen Übernamen „Heldenstrasse“. Durch Bombenniedergänge wurde das Parlament fast zur Hälfte zerstört. Besonders schwer traf es die Säulenhalle. Die reiche Kassettendecke und das prächtige Friesgemälde mit einer Länge von 121m und einer Breite von 2m wurden sehr stark beschädigt. Beim Wiederaufbau des Gebäudes verwendete man anstelle des ursprünglichen Pavonazzo-Marmors Salzburger Marmor. Das Friesgemälde konnte man vorerst nicht rekonstruieren. Erst in den 90er-Jahren wurde dies zum Teil möglich. Zahlreiche weitere Zerstörungen konnten nur annähernd ihrem ursprünglichen Bild wiederhergestellt werden. Die Architekten bemühten sich, so gut wie möglich an den Ideen Hansens orientiert zu arbeiten und diese auszubauen.

Heute erstrahlt das Haus wieder in vollem Glanz und überragt majestätisch die Ringstrasse. Seine lange Säulenfront und die Dreiecksgiebel verleihen ihm das Äussere eines antiken Tempels des griechischen Klassizismus. Der grosse Dreiecksgiebel über den Säulen ist mit zahlreichen Figuren versehen, welche vor goldenem Hintergrund stehen. Vor das Hauptportal führt jeweils von links und rechts her eine breite Auffahrt. In der Mitte – zwischen Ringstrasse und erhöhtem Hauptportal – steht der grosse Brunnen mit der Göttin Athene mit goldener Krone und goldenem Brustpanzer, welche auf einer Säule steht und einen Speer in der Hand hält. Sie ist die Göttin der Weisheit und Schutzpatronin der Wissenschaft und der Kunst. Der Brunnen ist das Werk von Karl Kundmann.