民国18年（1929年）7月，建成高要县图书馆。

1956年，图书馆扩建。

1961年，易名为肇庆市图书馆，馆址在宝月台汉谋图书楼。

1968年，迁人市工人文化宫。

1980年，回迁宝月台。

1987年7月25日，在宝月台建成新馆。

1988年，原肇庆市改为端州区，图书馆改名为端州区图书馆。

1996年，引进广东省中山图书馆管理系统，建立馆内局域网，实现图书、期刊的采访、编目、借阅流通和公共检索的电脑化管理。

1998年，实行市、区两级共管，图书馆改名为肇庆市端州图书馆。

2005年2月，肇庆市图书馆正式成立。

2012年12月，肇庆市图书馆新馆落成投入使用。