Nog in 1657 werd echter een jood de stad Harderwijk uitgezet met als argument 'joden mogen alhier niet wonen', dat stond kennelijk in een voorschrift van de stad. Tien jaar later was het klimaat verbeterd en kreeg een joodse slager een woonvergunning van het stadsbestuur. Vanaf 1690 mochten joden zich voortaan officieel in Harderwijk vestigen. Vermoedelijk heeft de aanwezigheid van de Gelderse Academie (de universiteit, 1648-1812) hierin een rol gespeeld. Die kon geen joodse studenten afwijzen.
Op 30 september 1716 kreeg Heiman Mozes Heiman, pachter van de Stedelijke Bank van Lening, toestemming een stukje grond bij de Grote Poort te gebruiken als begraafplaats voor hemzelf en zijn bedienden. Vroeger lag hier een stadswal die inmiddels was afgegraven.
In 1762 vaardigde het Harderwijker stadsbestuur een reglement uit waarin stond dat joden burgerrechten konden krijgen. Abraham Gabriëls, een geldhandelaar uit Amsterdam, was een van de eerste Harderwijker joden die van deze mogelijkheid gebruikmaakte. Hij speelde in die tijd een hoofdrol in een groots opgezette loterij om geld bij elkaar te krijgen voor de bouw van een nieuwe haven. Pas in 1796, in de Bataafs-Franse tijd, werden alle beperkingen tegen joden opgeheven. Niet alleen in Harderwijk, maar in het hele land.
De joden houden hun rustdag op zaterdag (sjabbes) en gaan dan naar de synagoge (sjoel). In 1759 huurden vier Harderwijker joden een kamer om er diensten te kunnen houden. Die kamer kun je beschouwen als de eerste Harderwijker synagoge (de joodse 'kerk'). Uit 1762 is een mededeling bekend dat de joodse gemeente een ritueel bad had gebouwd in het huis van Salomon Heymans. Het rituele bad (mikwe) werd door gelovige joden bij speciale gelegenheden gebruikt. De leden van de gemeente waren dan verplicht dit bad te gebruiken, als ze het niet deden kregen ze een boete.
In 1839 bouwde de joodse gemeente een synagoge aan de Kleine Marktstraat. Dat gebouw staat er nog steeds, maar wordt niet meer als synagoge gebruikt. Het staat nu bekend als de Oude Synagoge. Omstreeks 1852 werd de joodse begraafplaats aan de Veldkamp ingebruikgenomen. In 1855 stichtte de joodse gemeenschap ook een eigen school.
Tijdens de Tweede Wereldoorlog zijn heel veel joden omgekomen. Eenentwintig van de negenendertig Harderwijker joden overleefden de oorlog niet. Hun namen staan op een plaquette aan de synagoge. Het lijkt wel of de plaquette beschadigd is, of er een stuk van de steen is verdwenen. Het ontbrekende stuk herinnert echter aan dát deel van de joodse bevolking van Harderwijk dat uit 'ons midden is weggerukt', zoals er vermeld staat. Ook de davidsster ontbreekt niet. Tijdens de oorlog een teken van schande omdat joden die 'jodenster' zichtbaar moesten dragen om op die manier goed herkenbaar te zijn. In de ogen van de Duitse bezetters waren joden namelijk een minderwaardig volk. Nu is het een ereteken, het is zelfs een deel van de Israëlische vlag. Verder staan er vijf Hebreeuwse afkortingen op de plaquette die het volgende betekenen: 'Mogen hun zielen gebundeld worden in de bundel van het eeuwige leven'.