Nachdem das ursprüngliche Gebäude an der Stelle des Palais an der Wallnerstrasse abgebrannt war,  entstand für Johann Graf Pálffy von Erdödy in den Jahren 1809-13 das heutige 14-achsige Palais. Es ist in Wien eines der wenigen Beispiele französischer Villenarchitektur des Klassizismus. Das Haus wurde nach einem Plan von Pierre-Charles de Moreau erbaut, wobei die Innenausstattung im Empirestil ein Werk von Raphael von Rigel ist. Das Palais ist heute im Besitze des Staates und beherbergte bis 1989 die Verwaltungsakademie des Bundes. Gegenwärtig ist das Gebäude ungenutzt und wartet auf die Fertigstellung der Restaurierung.
Im Gegensatz zum schlichten Äusseren ist das Innere reich ausgestattet. Wenn auch im Laufe der Zeit für die jeweilige Nutzung immer wieder Modernisierungen vorgenommen wurden, haben sich doch das prachtvolle Treppenhaus aus Marmor und vereinzelte Repräsentationsräume erhalten. Davon hat besonders der grosse Festsaal von 1818 seine Ursprüngliche Ausstattung erhalten.