Nach der Zunftordnung von 1378 führten im unteren Teil der heutigen Naglergasse die Nadler ihre Gewerbe aus und hatten in der Gegend auch ihre Wohnsitze. Die damalige Bezeichnung war „Unter den Nadlern“ und wurde ca. ab 1432 verwendet. Die Nadler gehörten der Berufsgattung der Schmiede an und stellten allerlei Arten von Nadeln her. Die Bezeichnung „Naglergasse“ hat nichts mit Nägeln oder dergleichen zu tun, sondern war ganz einfach eine Verballhornung der alten Namensgebung. Der Begriff „Naglergasse“ entstand ca. um 1547 und ist seither geläufig. Im 16. Jrh. standen an der Naglergasse nur auf der Seite zum Hof Gebäude, da lediglich ein schmaler Pfad hinter der ehemaligen Umwallung vorbeiführte. Die Rechtskrümmung der Gasse an ihrem Ende bei vor der Einmündung in den Hof ist noch Zeuge der einstigen Umgrenzung des Römerlagers Vindobona. Einst befand sich links der Naglergasse der alte Stadtgraben, was sich im Gefälle zum Haarhof Richtung Wallnerstrasse hin noch deutlich zeigt.

Ende des 19. Jrh. entbrannten in Wien heftige städtebauliche Diskussionen, denn man plante eine Verlängerung des Grabens gegen Nordwesten hin, um den Engpass in der Naglergasse und in der Bognergasse zu beseitigen.
Heute ist die Naglergasse von Touristen sehr gerne besucht, zumal sie quasi die Verlängerung des Grabens bildet. Viele Geschäfte und Kleinläden säumen die überaus enge Gasse, welche beidseits von hohen prachtvollen Fassaden gesäumt wird und dadurch auf Bodenhöhe ein wenig düster wirkt. Daher lohnt sich ein Blick nach oben jederzeit. Fast befreiend wirkt der Spaziergang aus der Naglergasse in den grosszügigen Platz am Hof nach der charakteristischen Krümmung am Ende.