Den første udstilling
I 1936 foreslog Ernfred Michelsen, at der i forbindelse med Håndværker- og Borgerforeningens årlige sommerfest skulle arrangeres en udstilling om egnen og dens beboeres historie. Ved en aktiv indsamling på egnens gårde lykkedes det at samle et stort antal effekter, som blev udstillet på Teknisk Skole den 26.–28. juni samme år. Det kostede 25 øre at komme ind og se på herlighederne. 

Fattighuset
Den første udstilling på Teknisk Skole blev en succes, og Ballerup og Omegns Museumsforening blev stiftet med Ernfred Michelsen som første formand. Sognerådet gav tilladelse til, at det tidligere fattighus kunne bruges til udstillinger, og den 3. januar 1937 åbnede museet.

Pederstrup
Efter en årrække skulle det gamle fattighus rives ned, og museets samling blev pakket ned. I en periode blev den opbevaret i kælderen på Skovlunde Skole. I 1969 stillede kommunen Lindbjerggård i Pederstrup til rådighed og efter 2 års istandsætte med frivillig arbejdskraft, kunne Egnsmuseet i Pederstrup omsider indvies i 1971. Senere blev Pederstrupgård også en del af museet.

Stenøkser og foreninger
I 1970erne og 80erne holdt flere foreninger til på Pederstrupgård – heriblandt Ballerup Arkæologiske Forening og Teatergruppen KLIMA. Desuden var der en meget stor samling af håndværktøj og landbrugsredskaber kaldet Friborgsamlingen. Samlingen blev udstillet sammen med arkæologisk forenings samling. Efterhånden blev samlingerne samlet til ét egnsmuseum, drevet på frivillig basis af Ballerup Historiske Forening. Lindbjerggård blev indrettet som et traditionelt egnsmuseum med genstande fra gårdene i Ballerup og landsbyerne. I 1985 blev der ansat en skolekonsulent, der senere blev stedets første museumsinspektør.

Ballerup Museumsfond
I 1997 brændte nordlængen på Pederstrupgård. Det startede en længere debat om, hvad man ville bruge museet til. Det blev besluttet at lave en ny permanent udstilling om Ballerups historie, der åbnede i 2004. Samtidig blev Ballerup Egnsmuseum omdannet til en selvstyrende fond med egen bestyrelse. Et par år senere blev navnet ændret til Ballerup Museum.