石家庄市第二医院创建于1952年初，前身为“石家庄金融贸易合作社职工医院”，院址位于华安街8号。

1953年初，医院改称“商业职工保健所”，同年3月迁址于南大街11号，11月迁至中山路长安胡同13号。

1956年扩建改名为“石家庄市商业医院”，迁址至华西路53号。

1972年5月，医院改称为“石家庄市第二医院”。

1975年1月，医院划归石家庄地区，更名为“石家庄地区人民医院”。

1993年9月，医院改名为“石家庄市第二医院”。

1999年5月，在医院原口腔科的基础上成立了石家庄市口腔医院。

2010年11月，经石家庄市卫生局批准，医院加挂“石家庄市糖尿病医院” 第二名称。

2023年9月8日，石家庄市自然资源与规划局对石家庄市第二医院新院区项目设计方案进行批前公示，公示期限为10天。