Ballerup kirke blev bygget i perioden 1200-1250; den romanske tid. På dette tidspunkt består kirken kun af skib og kor. Centralt i kirkerummet har døbefonten været placeret, og der har sandsynligvis været murede bænke langs væggene.
.
.
I den romanske tid havde kirken et fladt træloft. I tråd med den gotiske stil ændrede man i begyndelsen af 1400-tallet loftet til murede hvælvinger. Disse hvælvinger blev dekoreret med Kongstedsmalerens kalkmalerier, og kan stadig ses i dag.
.
.
Mod vest blev der i 1525 opført et gotisk tårn og våbenhus. Nybyggelserne blev opført af mursten, omend man valgte at genbruge en del af kampestenene fra den tidligere vestmur til tårnet; de kan stadig ses på tårnets nederste del. .
.
.
I årene 1885-1886 stod kirken over for store ændringer. På dette tidspunkt blev våbenhuset ombygget og der blev bygget et sideskib samt et sakristi til kirken.