An dieser Stelle befand sich im 14. Jrh. die landesfürstliche Kanzlei. In der Zeit um 1500 wohnte Graf Maithenburg in dem Palais, bevor das Gebäude in den Besitz der Familie Kinsky überging. Der nächste Besitzer war Rudolf Khuen-Belasi, welcher das alte Palais abreissen und an der selben Stelle ein neues im Renaissancestil errichten liess. Später erfolgte eine Erweiterung durch Zukauf benachbarter Gebäude. Nachdem Khuen-Belasis TochterPaul Graf Pálffy geheiratet hatte, wurde das Palais um 1684 ein Majorat der Fürstenfamilie Pálffy. Nach dem Ersten Weltkrieg wurde das Palais Eigentum des Staates. Im Zweiten Weltkrieg richteten Bombenniedergänge schwere Zerstörungen an dem Haus an, welche jedoch in den 50er Jahren behoben werden konnten, wobei man die Fassade rekonstruierte, das Innere jedoch kaum mehr etwas vom ursprünglichen Aussehen behalten konnte. Heute finden im Palais Pálffy am Josefsplatz hauptsächlich Kulturveranstaltungen und Austtellungen statt.