濟南泉水得天獨厚,獨特的水文環境使濟南城市居民向無供水之憂,居民世世代代都飲用泉水、河水或井水,相較于其他北方城市,濟南對現代供水系統的需求遠不像北方其他城市那樣緊迫。民國初年,濟南依然采用以泉水為水源,供水主要由井、泉、湖泊、池沼和河、渠組成,當時湖泊有大明湖、濯纓湖,人工溝渠如玉帶河,還有五龍潭、趵突泉、黑虎泉等三大泉群。泉眼散布于整個市區,恰如滿天繁星,并且依泉形成街巷庭院,居民就近汲水十分方便,可謂“家家泉水,戶戶垂楊”。
自1904年濟南開埠后,隨著濟南商埠區工商業的發展,居民城市生活用水和工業用水量大增,而商埠區地勢較高,沒有城區充足的泉眼和泉水,因此商埠居民生活用水十分困難。而濟南市民日常飲用之水,全部來自河流等,由于沒有建立合理的排污管道,生活垃圾等亦排入河內,因此居民飲水相當不衛生。同時,開埠后大量建立的工廠多沿河流、濱湖、環泉布設,下水道臟水和工業廢水大量排入河渠、泉池、湖沼中,水污染日趨嚴重,導致居民飲水困難加劇。在此情勢下,建立濟南供水系統,解決城區居民飲水成為一個迫切的問題。于是,在上世紀20年代初,有人建議建設一個供水系統,需要經費200萬元,一半由私人籌集,一半由公用經費提取,得到了當時政府的特許。但是,直到1920年代中期,倡議人仍未能籌集到足夠的資金。這項計劃最終因為時局變換、資金籌集困難等被迫停止。這樣,直到上世紀30年代中期,濟南一直未有符合近代城市發展要求的干凈衛生的供水系統。
鑒于這種情況,當時的國民黨山東省政府決定建設主要面向商埠區的自來水供水系統。1934年4月,山東省政府先行撥款6000元,由市長聞承烈為首成立自來水籌備委員會,籌劃自來水公司,建設城市供水系統,爾后派員測勘水源。經勘查,把取水水源定在趵突泉,并勘定了兩處泉涌甚旺的水眼,可以基本滿足供水的需要。但由于經費不足,工程整體進展緩慢。當時工程所需經費共計大約30萬元,在當時政府財政空虛的情勢下,濟南市政府一方面向本市商人集資,勸募股份;另一方面用將來自來水費的收入作為抵押,向銀行貸款,最終確保了工程的順利實施。水源確定后,在自來水籌備委員會的主持下,開始供水管網設計和測量工作。最初的設計供水面積約50平方公里,供水區域為城關和部分商埠區。1935年9月公布的《濟南市政府周年工作報告》稱,到報告公布時,關于測量繪圖及設計事項早經竣事。設計出管道總圖,繪制了出了每一部分的詳細位置。設計干支管線長度4萬米,初步規劃形成了以趵突泉水廠為中心的覆蓋城關和商埠區的小范圍供水管網。與此同時,位于趵突泉的水廠的土建工程也全面鋪開。首先在趵突泉池內開鑿兩眼分別深9.7米和13.3米的水井。截止到1936年10月,濟南市供水系統已經能夠日供水能力2.2萬噸,建成了圓形沉沙池、清水池、機房、變電室,機房內設有55千瓦電動抽水機3組。至此,濟南市供水系統初具規模。
1936年12月15日,濟南市的第一個自來水水廠———趵突泉水廠建成正式供水,由官商合資的濟南自來水股份有限公司具體經營自來水供水業務。公司早在1936年8月制定的《濟南自來水股份有限公司供水章程》中,對用戶裝接自來水須辦理的手續等事宜,做了具體規定。在水價方面也是按用戶用水量的多少,分檔次收取費用,同時也按照用水的用途制定了不同的收費價格,其中普通用水高,而飲用水低。自來水用戶的登記工作從1936年初就已開始,用戶需填寫供水申請書并交納報裝金,然后由公司予以勘查、繪圖并在用戶交納各項安裝費后,再安裝送水。1936年12月,自來水公司開始正式供水時,有用戶1608戶。
此后,濟南自來水用戶逐年增加,多是商店、貨棧、醫院、工廠、官府、軍隊等。然而在當時的條件下對生活困苦的普通百姓而言,使用自來水依然相對昂貴,因此一般老百姓生活用水還是依靠汲取泉水、溝渠水等,用不上自來水。1948年春,解放軍馬上要兵臨濟南城下,國民黨當局害怕戰時斷水,便在經一緯三路、經五緯八路、經六緯八路、經七緯二路五個地方,各修建了長30米、寬20米、深2米的蓄水池,每池計劃蓄水1000噸,到濟南解放時也沒有竣工。而濟南市供水系統的完善和廣大泉城市民普遍使用自來水,直到新中國成立后人民政府大力建設泉城時才真正實現。