Het voorafgaande verhaal betekent niet dat we niets weten uit de tijd van de prehistorie. Mensen uit die tijd hebben namelijk sporen achtergelaten. Dat kunnen potten of scherven van aardewerk zijn. Soms treffen archeologen verkleuringen in de grond aan. Die laten zien waar vroeger palen van een huis hebben gestaan. Van het huis zelf is niets meer over, want de oudste huizen werden gebouwd met muren van takken en stro, aangesmeerd met leem. De takken werden aan palen vastgemaakt. De palen zijn vergaan, maar omdat daardoor de grond in de paalgaten verkleurde, is ook nu nog te zien hoe groot zo'n woning was.
De prehistorie wordt ingedeeld in de steentijd, de bronstijd en de ijzertijd. Die namen hebben te maken met de materialen die de mensen voor hun werktuigen gebruikten. De steentijd duurde verreweg het langst. Mensen gebruikten toen vuursteen om er gebruiksvoorwerpen van te maken. Je moet dan denken aan messen, pijlpunten, bijlen en krabbers om huiden te bewerken. In Zuid-Limburg waren zelfs vuursteenmijnen. Ruim vierduizend jaar geleden begon in onze streken de bronstijd en ongeveer veertienhonderd jaar later de ijzertijd.
Zo'n vijfduizend jaar geleden kon je in de omgeving van het latere Harderwijk mensen van de trechterbekercultuur tegenkomen. Ze hadden vaste woonplaatsen, waarvan echter niets is teruggevonden. Het aardewerk dat ze maakten leek een beetje op trechters, vandaar die naam. Deze volken zijn vooral bekend geworden door de bouw van hunebedden. In Nederland zijn er nog 54, waarvan 52 in Drenthe en 2 in Groningen. In de omgeving van Harderwijk bouwden de mensen van de trechterbekercultuur geen hunebedden, misschien door het ontbreken van grote zwerfkeien. Onder andere bij de aanleg van de A28 in de jaren zestig van de vorige eeuw, vond men in de buurt van het Beekhuizerzand in uitgegraven grond van de nieuwe weg, restanten van hun aardewerk.
Honderden jaren later woonden hier mensen van de klokbekercultuur. Die mensen gaven hun aardewerk een andere vorm. Hun potten waren ronder dan die van de trechterbekervolken. Daarom wordt de naam klokbeker gebruikt. Doordat hun potten en gebruiksvoorwerpen er heel anders uitzien dan die van de trechterbekercultuur, weten we dat deze mensen tot een andere cultuur behoorden. Zij begroeven hun doden in een zogenaamde grafheuvel. Dat is een heuvel van aarde over een graf. De doden kregen eten en allerlei spullen mee, om voort te kunnen leven in het dodenrijk. Op Ermeloos grondgebied liggen nogal wat grafheuvels, Harderwijk heeft er slechts twee. Ze zijn te vinden in het bos vlakbij de gemeentegrens, bij de rotonde Flevoweg-Leuvenumseweg, richting Ermelo.
