Salomon Rothschild, der Nachfahre vom jüdischen Wechselhändler Meyer Amschel Rothschild aus dem Frankfurter Ghetto, ist in Wien durch viel Geschick zum bedeutendsten Financier und dadurch zu einem unermesslich reichen Mann geworden. Baulich war es ihm jedoch nicht möglich, sich in der Stadt zu repräsentieren, da es Juden nicht erlaubt war, Gebäude zu errichten. Erst seinen beiden Nachkommen Nathaniel und Albert war es erlaubt, Eigenheime zu erbauen. Nathaniel war der erste, welcher sich im 4. Bezirk einen geeigneten Baugrund suchte, um ein repräsentatives Eigenheim bauen zu lassen. Der unverheiratete und kinderlose Nathaniel verzichtete auf die Übernahme des Bankhauses Rothschild zugunsten seines jüngeren Bruders Albert, denn sein Interesse am Kunstwesen und der Wissenschaft war grösser als an den Bankgeschäften.

Nathaniel beauftragte den Pariser Architekten Jean Girette mit der Planung und dem Bau des Palais, welches in den Jahren 1871 bis 1878 entstand. Das Resultat war ein riesiger Palastkomplex, welcher aus drei Teilen bestand: Ein Trakt für die Unterbringung der Kunstsammlung, der Wohntrakt und der Verwaltungstrakt. Die Einrichtung war unbeschreiblich reich und wertvoll und widerspiegelte die grenzenlose Liebe des Hausherrn zur Kunst. Nathaniel veranstaltete in seinem Palais zahlreiche rauschende Feste, die oft mit einer Pracht einhergingen, welcher selbst die Mitglieder des obersten Wiener Adels vor Staunen und wohl auch Neid erblassen liessen.
Nathaniel Rotschild starb in seinem Haus im Jahre 1905. Danach zog sein Neffe Alfons mit seiner Familie hier ein, was trotz der Ausmasse des Hauses eine Erweiterung vonnöten machte, denn die Fülle an Kunstschätzen war so gross, dass die Räume für die wachsende Kinderschar dennoch zu klein geworden war. Als 1938 Österreich ans Deutsche Reich angeschlossen wurde, wussten die Rothschilds, dass ihnen eine schlechte Zeit bevorstünde. So begann man allmählich, die Kunstschätze ins Ausland in Sicherheit zu bringen, und gerade noch rechtzeitig konnte die Familie fliehen, ehe sie gefangen genommen werden konnte. Es befanden sich allerdings noch immer zahlreiche Kunstgegenstände im Palais, welche darauf von der SS geplündert wurden, die sich im Palais einnistete, darunter hohe Beamte der Gestapo. Die Bombenangriffe auf Wien im Jahre 1944 beschädigten das Gebäude so stark, dass die Familie Rothschild nach ihrer Rückkehr nach dem Krieg faktisch vor einem Trümmerberg stand. Nur noch wenige Räume waren begehbar, und die wiesen Blutspuren auf von den Menschen, welche hier von der Gestapo gefoltert worden waren. Es blieb den Rothschilds nichts anderes übrig, als die Ruine abtragen zu lassen. Die noch brauchbaren Steine wurden für die Wiederinstandsetzung des beschädigten Stephansdomes verwendet. Heute steht an der Stelle das Bildungszentrum der ÖGB.