全馆共地下一层、地上四层，各层功能区分布如下:负一层为书吧、读者餐厅、基藏书库、数字体验区。

一层为绘本阅览室、少儿阅览区、青少年阅览室、少儿手工坊、丽景书房、老年人阅览室、视障阅览室、多功能厅、消控和安保中心。

二层为总服务台、报刊阅览区、吕梁记忆馆、文学研讨室、文学图书阅览区、自然科学图书阅览区、廉洁文化图书阅览区。

三层为社会科学图书阅览区、自修室、历史文献阅览室、地方文献阅览室、休闲阅读区、数字阅览室、视听室、工具书阅览室。

四层为吕梁红色文献主题馆、党建书屋、展览厅、研究室、参考咨询室、读者沙龙、办公区。