医院前身是中华基督教内地会1904年创办的开封“福音医院”。

1950年，更名为“河南省人民医院”，1955年随省政府迁址郑州。

1993年，获批全国首批“三级甲等医院”。

2010年，增名“郑州大学人民医院”。

2012年，被确定为“部省共建”医院。

2019年，纳入郑州大学直属附属医院体系；2019年，阜外华中心血管病医院更名“华中阜外医院”，纳入郑州大学附属医院体系。

2020年，国家心血管病区域医疗中心正式授牌。

2023年10月10日，河南省人民医院豫西分院在洛宁县揭牌开诊。

2023年10月13日，河南省人民医院南院区项目在郑州航空港区黄海路南侧的一块空地上，即将开工建设。

2023年12月10日，河南省人民医院北院区正式开诊。

2023年，被确定为郑州大学省医临床医学院、成为河南省医学科学院附属人民医院。

2024年9月2日，位于台前县s101省道与方兴路交叉口的河南省人民医院豫东北医院正式开诊。

2024年11月，年收入破百亿公立医院增至17家。其中河南省人民医院2024年事业收入增长30亿元，同比增速为31%。