Nejdůležitější z mikulovských synagog byl Horní či Starý templ, původně pocházející snad z roku 1550 a rozšířený v roce 1689. Jeho dnešní architektonické pojetí je výsledkem barokní přestavby po požáru z let 1719–1723, snad za účasti zámeckého architekta Christiana Alexandra Oedtla. Bohatě členěný barokní svatostánek byl patrně dílem sochaře Ignáce Lengelachera. Centrální rozvrh, kdy je čtveřice kupolí sklenuta do čtyřsloupového pilíře uprostřed haly, jenž tvoří řečniště-almemor, vychází z polských stavebních vzorů. Tento architektonický rozvrh vnesl nové pojetí do řešení liturgického prostoru, neboť tím vznikla výjimečně hodnotná barokní kompozice charakterizovaná elegantními proporcemi a konstrukčními prvky. Je to dnes již poslední zachovaná čtyřsloupová synagoga v republice. Interiér bohatě zdobí štukatura a hebrejské liturgické texty. Stavba od začátku druhé světové války značně zchátrala, po náročné opravě v letech 1977–1989 obsahovala od roku 1995 muzejní expozici o historii a památkách zdejší židovské obce. V rámci projektu Revitalizace židovských památek „10 hvězd“ bylo do komplexní obnovy synagogy a expozice v letech 2010–2014 investováno 35,5 milionu Kč a dnes slouží opět ke kulturně-společenským účelům (muzejním, koncertním a vzdělávacím). Slavnostní otevření Horní synagogy a zpřístupnění stálé muzejní expozice Rabi Löw a židovská vzdělanost na Moravě se uskutečnily v červnu 2014.