1958（昭和33）年５月の行政機構改革にともない旧保健所庁舎内に美濃加茂市役所分室が設置され、教育委員会などが置かれた際にあわせて整えられた市立図書館（図書室）が始まりである。その後1960（昭和35）年に建設された青年婦人センター内の2階に移転、さらに1976（昭和51）年には美濃加茂市産業文化会館内に移った。1979（昭和54）に至り、産業文化会館西隣に図書館が単独で建設された。鉄筋コンクリート造3階建て（1階部分は駐車場）、総工費5750万円、蔵書数1万冊。移動図書館そよかぜ号の稼働も始まる。1983（昭和58）年の9.28災害で被災、高さ4.6ｍの水位となり2階まで水没する。木曽川護岸堤防建設工事に伴い、太田町の中濃体育館東に新築移転することとなり、1987（昭和62）年4月にオープンした。蔵書数5万冊。1996（平成８）年、本郷町に東図書館が建設され本館、東の2館体制となる。さらに2009（平成21）年に、三和ふれあいセンター内に図書館北部分室が開室された。なお、移動図書館そよかぜ号は2000（平成12）年に廃止となった。