三胜街馆区时期

1958年7月1日，开封市展览馆建立，馆址设在相国寺，曾举办了"开封市全民办工业技术革命展览"。1961年，河南省博物馆迁往郑州后，开封市文教局决定将三圣庙街（今开封市三胜街）省博物馆旧址一部分交市展览馆，作筹建市博物馆之用。1962年3月3日，开封市博物馆正式成立。

作为新中国建立后开封市第一家本级文博机构，成立之初便汇聚了一批省内优秀文博专家，为广大市民奉献了高质量展览。1962年4月5日至27日，开封市博物馆首个展览“古字画陈列”开展，之后“历史文物展览”“工艺美术展览”“宋代文物展览”“五史连环画展览”等相继开幕。1963年，先后举办了中国历代货币陈列、历史文物展览、开封名胜古迹展览、工艺美术展览、宋代文物展览、开封现代书画家作品展览、反美漫画展览等。1966年2月举办过大型“阶级教育展览”。“文化大革命”初期，开封市红卫兵抄家所获物品集中在几个中学和派出所，市博物馆为保护文物，组织人员到第一高中、女子高中、二中等10所中学，及卧龙、午朝门等10个派出所挑选保存文物1923件予以保存。1970年1月，馆内部分工作人员下放农村劳动，全馆工作停顿。1973年恢复市博物馆工作，其后与铁塔公园联合办起了铁塔文物展览，与相国寺联合举办了相国寺文物展览和宋代历史文物陈展。1975年10月1日，与故宫博物院联合举办的“明清工艺品展览”在开封相国寺开展，引起了市民的广泛关注与讨论，也正是在这一时期，开封市博物馆开始将展览输送出去与其他博物馆进行交流互鉴。此外，开封市博物馆还举办过中国历代货币展览、开封解放战役展览等。在文物征集收藏与保管工作中，除在每次组织展览时征集社会上的文物外，还通过文物宣传工作，进行征集或奔赴外地采购，或从文物商店购入。加上省博物馆移交的文物，到1985年共收藏文物13915件，其中一级品23件。

包公湖馆区时期

因馆址原有建筑残破，不适应各方面业务的开展，1985年3月，经上级批准，将包公湖南岸原市人民武装部旧址交博物馆筹建新馆使用。1986年在开封市鼓楼区迎宾路26号扩建，1988年9月建成，1988年10月1日正式对外开放。全馆总占地面积16000平方米，主体楼7000余平方米，系呈“山”字形仿古建筑，单檐歇山顶，黄琉璃瓦覆盖。一楼大厅保存有黄杨木雕《清明上河图》中虹桥部分，木雕表现了北宋东京的繁荣景象，显示了博物馆特色。二楼大厅正面装饰有巨型瓷画《火的生命》，反映了中原历史文化和开封名胜古迹的壮丽情景。到1992年馆藏文物达二万三千多件，设有“馆藏石刻精品展览”、“宋代历史陈列”、“佛像艺术展”、“明清宫廷用品展”、“馆藏文物展览”、“开封革命史展览”等展览。

1992年9月18日，一楼北厅“明清宫廷用品展”厅内，发生“9·18”特大馆藏文物被盗案，被盗文物69件，其中一级文物5件（明宣德青花缠枝莲纹盘、明德化窑回纹三足炉、清青玉山子、清双猴捧桃摆件、清碧玉双耳环炉），二级文物55件、三级文物8件、未定级文物1件。该案于1993年1月被侦破、案犯刘农军、文西山、刘进、李军等被缉拿归案，被盗文物除白玉雕渔翁垂钓搬指外，68件文物重新回到了人民手中。

2004年，成立朱仙镇木版年画研究中心；2006年，申报的朱仙镇木版年画列入首批国家非物质文化遗产名录。

2007年，开封市投资900余万元，对开封市博物馆进行了室内外环境改造。6月14日启动，10月8日竣工；对门窗、电梯进行了重新更换，展厅和库房全部安装了中央空调，展厅内所有展柜进行了重新设计和更新，并增添了古书画专用的恒温恒湿展柜。一楼大厅的黄杨木雕《清明上河图》清洗一新，二楼中厅南北两壁分别镶嵌了大型红木雕塑《制瓷》和《开封历史大事记年表》。陈展大楼外观和前院广场重新粘贴和铺设了石材，并进行了透绿和广场绿化。

中意湖馆区时期

2014年，为让市民游客更全面地了解开封厚重的历史文化底蕴，开封市委、市政府决定在中意湖畔建设一座大型现代化博物馆。2014年3月，开封市博物馆新馆开工建设。2016年4月21日，开封市博物馆旧馆闭馆。2018年3月5日，开封市博物馆中意湖新馆正式对外开放。开封市博物馆新馆位于开封新区五大街与六大街之间的郑开大道北侧，中意湖东临，总建筑面积54286平方米。建筑总体平面设计突出北宋东京城三重城格局特点，由外围、环形内院和中心主体三部分组成，造型遵循“外在古典，内在时尚”原则，四周以较低的建筑拥簇中央高耸的殿阁，体现出宋代建筑组群的建筑特征。