1956年7月，荆州市图书馆创建，原名沙市市图书馆，馆址设在中山公园涵荫草庐。初建时，工作人员仅有8人，藏书不过6000册。

1957年，荆州市图书馆迁到北京路新民街口（现北京路91号），藏书增至2万册，馆舍面积150平方米。

1961年，在贯彻“调整、巩固、充实、提高”的方针中，荆州市图书馆合并到市文化馆（设置图书组）。

1972年，荆州市文化馆图书组恢复借阅工作。

1978年5月，经省文化厅和市政府批准，恢复市图书馆建制，并迁回至北京路91号。此间，市图书馆藏书已达15·5万册，工作人员14人，馆舍面积500平方米。

为发展荆州市图书馆事业，1985年，市政府投资252万元修建新馆舍，并将该工程列为当年为市民兴办十件实事之一。

1987年，荆州市图书馆工程竣工。

1988年5月1日，原国家主席李先念为荆州市图书馆新馆题写了馆名。

1988年9月4日，荆州市图书馆新馆正式对外开放。

1994年荆沙合并建市后，荆州市图书馆随行政区划的变更而依次更名为荆沙市图书馆、荆州市图书馆。

遵照市委[2004]8号文件要求，根据荆办发[2004]19号文件精神，市图书馆、少儿图书馆、科技图书馆合并为荆州市图书馆，下设少儿图书分馆、古城图书分馆，市图书馆对分馆实行人、财、物及文献资源的集中管理和统一调配。2005年10月，市直三家图书馆机构合并。

2022年11月27日起，荆州市图书馆暂停对外开放，具体恢复开放时间另行通知。