7. prosinca 1907. godine, na inicijativu članova Družbe Braće Hrvatskoga Zmaja – Emilija Laszowskog, Velimira Deželića i Stjepana Širole - Gradsko poglavarstvo Slobodnoga i kraljevskog glavnoga grada Zagreba s gradonačelnikom Milanom Amrušem utemeljilo je i svečano otvorilo Gradsku knjižnicu. U to vrijeme bila je smještena u kuli nad Kamenitim vratima. Prvi ravnatelj Gradske knjižnice bio je dr. Velimir Deželić, a Emilij Laszowski ravnatelj je od 1908. godine.
1937. godine Gradska knjižnica dobiva novi privremeni smještaj u prostorijama Novinarskog doma, da bi 1995. godine preselila na sadašnju lokaciju u Starčevićevu domu.
Danas su Knjižnice grada Zagreba suvremeno organizirana mreža narodnih knjižnica, a ujedno i jedna od najvećih kulturnih ustanova u gradu Zagrebu.