Dele af Vandværksbygningen stammer fra vandværkets start i 1854. Hovedbygningen er opført i 1907 i særpræget byggestil med skydeskår i tårnet. Bygningen er tegnet af den landskendte arkitekt Hother August Paludan (1871-1956).
Paludan står bag flere kendte bygninger i Aalborg, herunder både Politigården, Katedralskolen, Ansgars Kirke og Skt. Josephs Hospital. Også byrådssalen i Aalborg Rådhus og Aalborg Sparekasses gamle bygning på Nytorv er Paludans værk.