图书馆始建于1926年11月,始名为赣县公立中山图书馆,是江西省最早建馆的市级公共图书馆,是国家一级图书馆。现有馆舍由2001年10月建成的中心馆(长征大道13号)和1984年10月建成的少年儿童图书馆(健康路34号)两部分组成,馆舍建筑总面积1.2万㎡。现有藏书总量91万余册(含电子文献),其中古籍共有1919部、18254册。馆藏20部古籍入选江西省第一批珍贵古籍名录,其中《楚辞二卷》是全市唯一入选第二批国家珍贵古籍名录的古籍。赣州市图书馆尤以蒋经国先生在赣南活动时期创办的《正气日报》《新赣南报》《民国日报》等地方珍贵文献闻名全国。