Im 15. und 16. Jrh. sind als Besitzer der Liegenschaft mehrere Herrschaften protokolliert, worunter sich Namen wie Stubenberg, Spannberg, Zelkinger und zuletzt Mollard befinden. Der erste Besitzer der letztgenannten Familie war Peter von Mollard, dessen fünf Söhne eine wichtige Rolle im Zusammenhang mit dem Wiener Hof spielten. Daher waren sie besonders angesehen Leute, waren aber dennoch immer wieder in finanziellen Schwierigkeiten. Um 1689 veranlasste Ferdinand Ernst Graf Mollard, dessen Schwester die berühmte Gräfin Fuchs, das vertraute Kindermädchen Maria Theresias, war, den Umbau des bestehenden Hauses mit Fassadenumgestaltung, was laut Dokumenten jedoch auch nur aufgrund eines bewilligten Darlehensgesuches möglich war. Die Pläne für den Umbau lieferte Domenico Martinelli. Allerdings akzeptierte der Bauherr Martinellis Fassadenplanung nicht, weil diese zu schlicht ausgefallen wäre. Es wird vermutet, dass der Tiroler Architekt Christian Alexander Oedtl den Auftrag für die Fassadengestaltung erhielt. Das Innere wurde jedoch nach Martinellis Plänen realisiert.

Um 1760 kaufte Franz Wenzel Graf von Clary und Aldringen das Palais und liess es ein weiteres Mal umbauen. Im Rahmen des Umbaus wurden die prächtigen Ziergitter unterhalb der Fenster in der Beletage angebracht, welche von Schloss Teplitz hergebracht worden waren, das ebenfalls im Besitz der Familie Clary-Aldringen war. Dabei entstand auch die spätbarocke Gestaltung der Repräsentationsräume. Im späten 18. Jrh. wurde die Fassade neu gestaltet und mit Eckrisaliten und Riesenpilastern versehen. Später waren im Palais Mollard-Clary die britische Botschaft, die bayrische Gesandtschaft und das Niederösterreichische Landesmuseum untergebracht. Bombenschäden vom Zweiten Weltkrieg wurden behoben und gleichzeitig der Hoftrakt aufgestockt. Im Jahre 1982 wurde das Gebäude nochmals restauriert. Im Laufe der Zeit wurde das Innere des Palais mehrmals umgestaltet und der Zeit angepasst, so dass sich nur wenig von der ursprünglichen Ausstattung erhalten hat. Das älteste Interieur sind die Ölmalereien in der Galerie aus der Zeit um 1700, welche direkt auf den Putz aufgetragen sind. Sie stellen Puttengruppen und Szenarien aus der Mythologie dar und werden dem Mailänder Maler Andrea Lanzani zugeschrieben.