Začetki knjižničarstva na Domžalskem segajo v začetek 20. stoletja, ko je dijaštvo 8. septembra 1904 ustanovilo potovalno prosvetno knjižnico z namenom širjenja slovenskih knjig in spodbujanja branja. Druga knjižnica je zaživela v okviru Katoliškega izobraževalnega in podpornega društva Domžale leta 1904.
Prva svetovna vojna je društveno knjižnico skoraj uničila. Zaradi povojne draginje se je le počasi opomogla. Da bi bila knjižnica lažje dostopna svojim bralcem, so jo leta 1940 iz Društvenega doma premestili v kaplanijo. Knjižnica je bila odprta ob nedeljah in praznikih. Za izposojo so skrbeli člani Fantovskega odseka Domžale. Okupator je knjižnico povsem uničil.
Ko so se končale grozote druge svetovne vojne, je učiteljica Gizela Ušeničnik do junija 1946 v Društvenem domu, sedanji Glasbeni šoli, uredila knjižnico, za katero so Domžalčani dobili 476 knjig iz zbirnega centra v Ljubljani, nekaj knjig pa je bilo pridobljeno še s strani ostankov sokolske knjižnice in pa darov posameznikov. Tako je imela knjižnica ob ustanovitvi vsega skupaj 540 knjig, število bralcev za to leto ni znano, bilo pa je izposojenih 223 knjig. Leta 1949 je knjižnico prevzelo Sindikalno kulturno-umetniško društvo in kot posebno sekcijo ustanovilo knjižnico, imenovano Prešernova knjižnica in jo upravljalo do konca leta 1955.
Po drugi svetovni vojni je imela knjižnica prostore na različnih lokacijah; na vogalu ob križišču Savske in Karantanske ulice, v bloku na Ljubljanski cesti, od leta 1960 pa nasproti železniške postaje na Kolodvorski ulici 8. Leta 1960 se je knjižnica preimenovala v Občinsko knjižnico Domžale. Leta 1964 je bila knjižnica preimenovana v Občinsko matično knjižnico Domžale, leta 1968 pa so jo kot posebno poslovno enoto pridružili Delavski univerzi Domžale.
Prostori na Kolodvorski ulici so postali pretesni, kazala se je potreba po čitalniških prostorih, ki so jih odprli s kratko slovesnostjo leta 1978. Zaradi vse večje prostorske stiske je občinska skupščina za knjižnico namenila izpraznjeno staro šolsko poslopje Venclja Perka na Ljubljanski cesti 58. Za knjižnico prirejene in obnovljene prostore je 28. novembra 1986 slovesno odprl profesor, literarni zgodovinar in pisatelj Matjaž Kmecl. Knjižnica je z novimi prostori dobila 800 kvadratnih metrov površine.
Kot povsem samostojen javni zavod je Knjižnica Domžale začela poslovati z julijem 1987. S preselitvijo v nove prostore se je knjižnica začela razvijati v sodobni informacijski sistem. Decembra leta 1989 je Knjižnica Domžale prva na Slovenskem uvedla računalniško vodeno izposojo. Program, imenovan VIR, so sprogramirali na Inštitutu Jožefa Štefana v Ljubljani.
7. oktobra 2005 je za vse uporabnike, željne knjig in obknjižničnih dejavnosti, odprla vrata nova, sodobna, multimedijsko in računalniško opremljena knjižnica. Domžalčani so se s simboličnim prenosom zadnje knjige iz stare knjižnice na Ljubljanski cesti 58 do nove knjižnice na Cesti talcev 4 poslovili od nekdanje knjižnice. Praznovanja ob odprtju nove knjižnice se je udeležil tudi takratni predsednik dr. Janez Drnovšek.
