本館始建於1958年10月,1959年5月1日正式對外開放,初名“淮陰市圖書館”。1964年11月—1983年3月,更名為“清江市圖書館"。建館以來,本館始終履行社會化教育職能,在做好傳統的陣地服務基礎上,積極開展形式多樣的延伸服務。通過舉辦講座、展覽、培訓等方式,為社會公眾提供多樣化、個性化服務,吸引越來越多的群眾走進圖書館;通過設立總分館、構建基層網點、開展流動服務,最大限度地滿足全市人民的閱讀需要,使圖書館的服務廣度與深度都得到延伸。經過半個多世紀的發展,淮安市圖書館收藏了大量圖書、報刊、視聽資料、電子讀物等文獻資源,目前累計藏書110餘萬冊(含古籍1萬餘冊),館舍麵積近30000平方米,在2017年國家文化部等級館評估中被評為國家一級公共圖書館。