La congrégation a été fondée en 1853 par des immigrants juifs originaires des États membres de la Confédération allemande, de Hongrie et des territoires tchèques
Le rabbin réformateur pionnier Isaac Mayer Wise a eu une influence considérable sur la création de la congrégation.
Sa première maison se trouvait sur Hanover Street, près de Camden Yards.