In de tweede helft van de negentiende eeuw beschikte Harderwijk over het Muziekkorps der Dienstdoende Schutterij, een muziekkapel van het Koloniaal Werfdepot, en het Harderwijks Mannenkoor. Toen omstreeks 1875 het muziekcorps van de schutters wegens gebrek aan leden werd opgeheven, besloot men een muziekkorps voor burgers op te richten. Het repertoire bestond uit harmoniemuziek, ofwel muziek voor blaas- en slaginstrumenten. Door de inzet van de heren J. Saagers, B. Tuithof en J. van Zalingen en verschillende leden van het Harderwijks Mannenkoor ontstond op 23 september 1876 de Harmonie. De heer O.J. Bekker was de eerste dirigent. De Stedelijke Harmonie is de oudste vereniging van onze stad.
De oudste sportvereniging van Harderwijk is schietvereniging Willem Tell, genoemd naar de legendarische Zwitserse vrijheidsstrijder uit het begin van de veertiende eeuw. De Harderwijker Willem Tell werd op 5 mei 1888 opgericht. De vereniging had in die tijd als doel 'beoefening van het juist schieten ter bevordering van 's lands weerbaarheid'. Dit doel probeerden de leden van Willem Tell te halen door iedere week schietoefeningen te houden en jaarlijks schietconcoursen te organiseren.
IJsclub Vol Moed is een andere vereniging met een eerbiedwaardig verleden. Vol Moed was niet de eerste ijsclub in Harderwijk. In 1879 werd na een hardrijderij op de Zuiderzee de Harderwijker IJsclub opgericht. Deze club was geen lang leven beschoren. De vergaderingen werden matig bezocht en het bestuur was 'lauw en laks', constateerde de redactie van het Overveluws Weekblad. Omdat er een lange periode met zachte winters aanbrak, slonk het aantal leden onrustbarend en kwam de vereniging in de problemen. In 1907 kon er goed geschaatst worden, maar bestuursleden van de Harderwijker IJsclub vonden het 'te nat' en namen geen initiatief. De besturen van schietvereniging Willem Tell en kegelclub Alle Negen waren het daarmee niet eens. Zij organiseerden schaatswedstrijden waaraan ruim honderdvijftig mensen deelnamen. In januari 1908 werd besloten de oude ijsclub te ontbinden en een nieuwe vereniging Vol Moed in het leven te roepen. Van het resterende kapitaal van de oude vereniging werd een feestje gegeven. Vol Moed zette ijsbanen uit op de Friesegracht en de Diepegracht. In 1912 gaf de gemeente aan Vol Moed toestemming een deel van De Wellen als ijsbaan te gebruiken. Die baan is bestaat nog steeds, tenminste als het vriest. Dank zij de stichting Harderwijk op IJs kan er tegenwoordig echter elke winter op de Markt geschaatst worden, al is het dan ook op een kunstijsbaan.
De grootste Harderwijker voetbalvereniging VVOG werd opgericht in mei 1927 als zondagvereniging VOG (Vereniging Ons Genoegen). Onder druk van de KNVB werd de naam gewijzigd omdat er elders in het land al een voetbalclub VOG bestond. In 1933 werd voor het eerst in competitieverband in Harderwijk gevoetbald. Vanaf 1945 kon er ook op zaterdag bij VVOG worden gespeeld. De zaterdagafdeling behaalde grote successen. Zo werden de Harderwijkers in het seizoen 1968-1969 algeheel amateurkampioen van Nederland en in het seizoen 1996-1997 kampioen van de zaterdagamateurs.