Auf dem prestigeträchtigen Baugrund an der Ringstrasse zwischen Naturhistorischem Museum und Parlament sollte ursprünglich das Adelscasino gebaut werden, was jedoch nicht realisiert wurde, da der Preis für das Grundstück zu hoch war. So kaufte der reiche prager Bankmann Gustav Ritter von Epstein den Bauplatz und beauftragte um 1870 den Ringstrassenarchitekten Theophil Hansen mit dem Bau eines Palais im Stil der italienischen Renaissance. Im jahre 1871 widmete sich der gesundheitlich angeschlagene Bankier nicht weiter seinen Geschäften, sondern zog sich in sein Palais zurück und verbrachte seine Zeit mit dessen Einrichtung und seiner Kunstsammlung.

1873 erfolgte der grosse Börsencrash, der die Bank Epstein in den Ruin trieb. Epsteins Kassier, Adolf Taussig, der durch Spekulationen ein riesiges Vermögen angehäuft hatte und nun alles verlor, stürzte sich in seiner Verzweiflung aus dem obersten Stock des Palais. Ritter von Epstein war gezwungen, seinen Palast zu verlassen und in eine Mietwohnung an der Eschenbachgasse 11 zu ziehen, in der er kurz darauf an Kehlkopfkrebs starb.
Um 1883 wurde das Palais an die englische Gasgesellschaft verkauft und gelangte im Jahre 1902 schliesslich in den Besitz des Staates, welcher das Gebäude als Amtshaus adaptierte und den Verwaltungsgerichtshof darin unterbrachte. Später waren im Palais Epstein der städtische Schulrat und das Reichsbauamt einquartiert. In der Nachkriegszeit bis 1955 war das Haus Sitz der gefürchteten russischen Besatzungsmacht, bevor es wieder an den Schulrat zurückgegeben wurde, welcher bis 2001 hier residierte. Als weitere Nutzung des Hauses sieht man eine Unterbringung von Abteilungen des Parlaments vor.
Die Fassade des Palais ist reich mit Terrakottaschmuck versehen. Zwischen den Fensterachsen des obersten Geschosses stehen Karyatiden, über denen Löwenköpfe angebracht sind. Die Fassade gegen die Ringstrasse wird besonders von einem schönen Portal mit vier grossen Karyatiden geprägt, über welchem sich ein Balkon befindet. Das repräsentative Treppenhaus besticht mit grossen Säulen und Pilastern aus rotem Veroneser Marmor, wobei die Kapitelle weiss und die Sockel schwarz sind.

Dies steht in einem interessanten farblichen Kontrast zu den Stufen und Balustraden, welche hingegen grau sind. In den Räumen der Beletage sind grösstenteils die originalen Stukkaturen und Kassettendecken erhalten, und die beiden Festsäle erstrahlen nach wie vor in ihrer grossartigen Ausstattung mit reich verziertem Kunstmarmor. In den Feldern der Kassettendecken sind Gemälde von Christian Griepenkerl, welche auf Entwürfe von Carl Rahl zurückzuführen sind und Themen aus der griechischen Götterwelt zeigen. Vom ursprünglichen Mobiliar ist durch die häufigen Funktions- und Besitzerwechsel des Palais wenig mehr vorhanden.