甘肃省图书馆的前身是1916年创建的甘肃省公立图书馆。

1932年，更名为甘肃省立图书馆。

1942年，更名为甘肃省立兰州图书馆。

1944年，创办国立西北图书馆。

1947年，国立西北图书馆更名为国立兰州图书馆。

1949年10月，甘肃省立兰州图书馆和国立兰州图书馆合并为兰州人民图书馆。

1951年，归兰州人民图书馆更名为西北人民图书馆。

1953年，正式定名为甘肃省图书馆。

2005年，在九州台建成了文溯阁《四库全书》藏书馆。

2014年10月，甘肃省图书馆进行扩建项目建设。

2016年6月，甘肃省图书馆扩建项目主体完成。

2018年5月，被原中国文化和旅游部办公厅评为国家一级图书馆。

2022年6月26日，甘肃省图书馆总馆西区（新馆区）开放。

2023年11月5日，甘肃省图书馆少儿馆新阅览室正式对外开放。

截至2025年4月，甘肃省图书馆已累计修复古籍1495部，4131册，249807页。