Het station werd op een kilometer afstand van de binnenstad gebouwd. De eerste stoomlocomotief en spoorwagons bereikten Harderwijk op 9 mei, tijdens een proefrit. Op 16 juli 1863 was de feestelijke opening van het station. De passagiers van de eerste trein werden op het stadhuis ontvangen en kregen een uitgebreide maaltijd voorgeschoteld. Vanaf 20 augustus was de spoorlijn in vol bedrijf. Iedere dag reden er drie treinen van en naar Harderwijk. De trein werd een stevige concurrent voor de stoombootverbindingen. Prompt verlaagde de veerdienst de tarieven.
Voor Harderwijk was de spoorverbinding erg belangrijk: wagonladingen spiering (een klein soort vis) konden met de trein veel sneller naar klanten worden gestuurd dan voor die tijd. Ook werd gerookte paling in kistjes verpakt en als vrachtgoed tot ver in het buitenland verzonden. Datzelfde gebeurde met verse snoekbaars. Deze vis werd in manden met ijs gedaan om langer te kunnen bewaren.
De trein was natuurlijk in de eerste plaats van belang voor passagiers. De soldaten die in het Koloniaal Werfdepot waren opgeleid, vertrokken voortaan per trein naar Rotterdam om daar te worden ingescheept voor hun reis naar Nederlands-Indië.
Een spoorverbinding betekende heel veel voor een stad of dorp. Je kunt zeggen dat mensen direct in aanraking kwamen met moderne techniek. Opvallend is dat in de eerste jaren na de komst van het spoor meer mensen Harderwijk verlieten dan er kwamen wonen. Er zou eens onderzocht moeten worden of dat met de spoorverbinding te maken heeft gehad of dat er iets anders aan de hand was.
Aanvankelijk had de spoorlijn slechts één spoor. In 1902 kwam tussen Amersfoort en Harderwijk dubbelspoor te liggen, dat werd later richting Zwolle doorgetrokken. Opvallend is de scherpe bocht in de spoorlijn, vlak voor Harderwijk, bij het Slingerbos. Het is een van de scherpste bochten in het Nederlandse spoorwegnet. De reden is dat men bij de aanleg van het spoor bij Harderwijk zoveel mogelijk goede landbouwgrond wilde sparen. Richting de bossen was de grond minder vruchtbaar. Vlak vóór Harderwijk moest echter een scherpe bocht worden gemaakt om de treinen netjes het station te laten bereiken.
Na de Tweede Wereldoorlog werd Harderwijk ook over de weg beter bereikbaar. De Zuiderzeestraatweg liep dwars door dorpen en door de stad Harderwijk. Toen het autoverkeer toenam, werd dat doorgaande verkeer steeds meer als een last gezien. Daarom besloot men een snelweg te bouwen. Dat werd de A28. In 1962 was het tracé tussen Zwolle en Harderwijk klaar, in 1967 werd de A28 doorgetrokken tot Nijkerk. Zowel over het spoor als over de weg had Harderwijk voortaan prima verbindingen.