医院的前身为“太行第四专区专员公署怀庆公立人民医院”。

1946年1月，在焦作市英福公司大花园街西口外英国人建的一个大院内成立。

1946年2月，医院迁至焦作市东地（焦作矿业学院校办工厂）。

1950年1月，医院改名为平原省新乡专区行政督察专员公署公立人民医院。

1950年5月，医院迁址于焦作北厂。

1952年，医院改名为新乡专署人民医院。

1952年8月，医院改名为平原省新乡区人民医院。

1952年12月，医院改名为河南省新乡区人民医院。

1953年1月，医院更名为河南省新乡专区人民医院。

1956年12月，医院归属焦作市人民政府领导，改名为河南省焦作市医院。

1958年7月，医院由焦作北厂老院迁至焦作村东新建院址。

1960年10月，医院改为焦作市第一医院。

1961年11月，医院更名为焦作市人民医院。

2024年12月，焦作市人民医院顺利通过胸痛中心再认证，并领取心血管健康大会授予的“国家胸痛中心”牌匾。