A Dohány utcai zsinagóga építése ellentéteket váltott ki a pesti zsidó hitközségen belül, sokan ellenezték az akkoriban újdonságnak számító berendezést, főleg az ott követett modern liturgiát. Számukra építették a keleties, romantikus mór stílusú „Rombachot". Nyolc évvel a Dohány utcai zsinagóga felavatása után Ottó Wagner, az egyik leghíresebb bécsi építész elkészítette a terveket, és 1872-ben a szűk utcában felavathatták az új imahelyet, mely a „status quo ante" közösség főzsinagógájává vált.
Az 1869 és 1872 között épült zsinagóga jellegzetes része a szimmetrikus homlokzat fölé emelkedő két minaretszerű, kupolás torony, a homlokzat középső részén pedig díszített keretű kettős ablakokat és Mózes két kőtábláját láthatjuk. A szürkés sárga vakolást vörös téglából készült csíkok és kék színű zománcos téglák díszítik.
A zsinagóga a Dohány utcaihoz hasonlóan modern, könnyű vasszerkezettel készült, de a tradicionális zsinagógai elrendezést követi. Nyolcszög alaprajzú térben a padok között központi helyet foglal el a Tóraolvasó-pult, a bima, fölé magas és díszes kupola került, nyolc karcsú vasoszloppal és mór hatást utánzó Alhambra oszlopfőkkel. A falakon arany, kék és vörös színű reliefeket találunk.
Az épület a II. világháborúban komoly károkat szenvedett, de 1959-ig még használták, majd 1988-ban eladták. 2005-ben visszakapta a zsidó közösség, és a helyreállítás után remélhetőleg méltó feladatkörben újra látogatható lesz. Az épület falán tábla emlékezik meg az ú.n. „rendezetlen állampolgárságú" zsidók 1941-es deportálásáról.