医院前身之一为上海市公费医疗第五门诊部。

1952年，组建了上海市第一个中医医疗机构，主要负责上海市干部的中医公费治疗。

1954年、1956年门诊部两次向上海市及北京新成立的中医机构输送中医专家29人，故“五门诊”被中医界誉为名中医的发祥地和摇篮。

1976年10月，上海市公费医疗第五门诊部和上海市中医推拿门诊部、南昌路新针门诊部合并成立了岳阳医院。

1994年，医院被评定为三级甲等中医院。

1995年8月，医院整体搬迁至虹口区甘河路新址。

1998年12月，医院经国家中医药管理局评定、转性为三级甲等中西医结合医院。

2007年，圆满完成国家中医药管理局重点中西医结合医院建设工作。

2010年，牵头完成全国《中西医结合医院工作指南》。

2012年，以全国三级甲等中西医结合医院第一名的成绩，通过国家中医药管理局三级中西医结合医院等级复评审。

2025年4月消息，松江院区一期工程可行性研究报告已取得批复。临近松江枢纽站，将新建医疗综合楼、科教宿舍综合楼、配套用房等，一期核定床位600张，二期还将建设600张床位。将促进优质医疗资源扩容和均衡布局，建成后将成为松江区对外服务的第二所三甲医院。