Amikor a világ második, Európa legnagyobb zsinagógáját 1859-ben felavatták, akkor a templom Jeruzsálem felé való tájolása miatt a Dohány utca nyugati felében kialakult egy kis apró öblösödés. Ez a terecske azonban pont csak akkora volt, hogy az Isten házába igyekvők, vagy az onnan távozók torlódás nélkül ki- és/vagy beférhessenek.

A templomtól balra eső klasszicista stílusú, kétemeletes házat 1929-ben bontatta le a felekezet, hogy 1931-re itt építhesse fel a Vágó László és Faragó Ferenc tervezte árkádsort és a 186 személyes Hősök Templomát. Mivel a lebontott házban látta meg a napvilágot Herzl Tivadar (1860-1904), a zsidó állam megálmodója, így 1994-ben kézenfekvő volt, hogy a 300 négyzetméteres térré fejlesztett Dohány utca nyugati oldalát róla nevezzék el. A téglaburkolatú teret Nemes Zoltán tervei alapján 2007-ben újították fel.