Das Palais im östlichen Teil des gleichnamigen Lustparkes Augarten wurde ende des 17. Jrh. erbaut vermutlich nach Plänen von Johann Bernhard Fischer von Erlach für den Ratsherrn Zacharias Leeb. Um 1780 kaufte Kaiser Joseph II. das Palais, und bis ins 20. Jrh. bewohnten es Leute vom kaiserlichen Hof. Um 1867 zog im Palais Obersthofmeister Johann Prinz Hohenlohe-Schillingsfürst mit seiner Gattin Maria ein, welche im Palais einen renommierten Salon führte, in dem hohe Gäste wie Franz Liszt, Hans Makart oder Richard Wagner zu Gast waren. Die Festivitäten im Palais Augarten gehörten zu den wichtigsten gesellschaftlichen Anlässen in Wien. Um 1897 zog Erzherzog Otto, der Neffe Kaiser Franz Josephs II., ins Palais Augarten ein. Aus diesem Anlass wurde das Gebäude um 1899 aufgestockt und um zwei Trakte erweitert; gleichzeitig wurde das Innere erneuert. In den Jahren 1934-36 bewohnte Bundeskanzler Schuschnigg das Palais.

Im Zweiten Weltkrieg erlitt das Haus umfangreiche Zerstörungen, welche jedoch erfolgreich behoben werden konnten. Seit 1948 wird das Palais, welches heute staatlicher Besitz ist, von den berühmten Wiener Sängerknaben bewohnt. Im Haus befinden sich mehrere Räume, in welchen sich die Originaleinrichtung gänzlich erhalten hat.