De aanleg van de eerste Nederlandse spoorwegverbinding in 1839, tussen Amsterdam en Haarlem, bracht de moderne tijd in Haarlem. Deze ontwikkeling veranderde Haarlems infrastructuur ingrijpend.
Het oude station bij de Amsterdamse poort werd al vrij snel (1842) verlaten – daar bevindt zich nu de Hoofdwerkplaats van NS Treinmodernisering – en vervangen door een nieuw station op de huidige plek. Voor het aanleggen van een ruim stationsplein moest een hele straat, de Lange Molenstraat, worden afgebroken. Vervolgens werd de spoorbaan verhoogd, om het verkeer vrij te laten doorstromen. Er werd een nieuw stationsgebouw neergezet; zo niet het mooiste station van Nederland, dan in ieder geval het enige in Art Nouveau-stijl, gebouwd door D.A.N. Margadant (1905-1908).
De komst van de trein was de voorbode van een sterke ontwikkeling van de grote en zware industrie. In 1838 was aan de Riviervischmarkt al de Koninklijke fabriek van rijtuigen en spoorwagens J.J. Beynes gevestigd, eerst als kleine wagenmakerij, later als een grootschaliger productiebedrijf aan het nieuwe Stationsplein. Verschillende bedrijven verlieten in die tijd de binnenstad, waar geen plaats meer was voor uitbreiding, of omdat ze te veel overlast opleverden in de vorm van stank, lawaai of brandgevaar. Ze vestigden zich onder meer langs het Spaarne, vooral in noordelijke richting. Daar kwam de nieuwe machinefabriek van de gebroeders Figee, de margarinefabriek van Cohen en Van der Laan en de scheepswerf Conrad, befaamd om zijn tinbaggermolens. Ook de chocoladefabriek van Droste trok weg uit de binnenstad. Tot laat in de 20ste eeuw werden op het nieuwe industrieterrein de beroemde chocoladeflikken en de cacao geproduceerd, verpakt in pakjes en blikken waarop een verpleegster te zien was met in haar handen een dienblad met daarop een blik cacao gesierd met een verpleegster en zo voort: dit werd internationaal bekend als het 'Droste-effect'. De afbeelding werd rond 1900 ontworpen door de reclametekenaar Johannes Musset; de term 'Droste-effect' is gemunt door de journalist en schrijver Nico Scheepmaker.
In de binnenstad verdween eerst de industrie, vervolgens veel ambachtelijke bedrijfjes. De vrijgekomen ruimte werd gaandeweg ingenomen door woningen en een gevarieerd winkelbestand. Uit landelijke enquêtes blijkt Haarlem als winkelstad zeer op prijs te worden gesteld.