A régi Terézváros keresztező utcája, amely a XVIII. század közepén alakult ki. A század második felében a Nussbaum Gasse (Diófa utca) része, 1838-ban Kleine Nussbaum Gasse (Kis Diófa utca), 1850 óta Kisdiófa utca. A Fővárosi Közmunkák Tanácsa 1874-ben a Kisdiófa utca nevet fenntartotta, 1967-től védett utcanév.

A környék egyik jellegzetessége, hogy feltűnően sok kertészettel kapcsolatos utcanév található itt. Ennek oka az, hogy a török hódoltság utáni időkben a Kiskörút mentén húzódtak a városfalak és a mai Erzsébetváros helyén akkor még elszórtan kertek, tanyák álltak a szórakozóhelyek helyett. Ezen a területen az 1730-as években még csak 11 házat számoltak össze, de ez gyorsan növekedett és fél évszázad alatt majdnem elérte a 600-at.