1900年，埃里希·宝隆在张家浜新马路（后为白克路，现为凤阳路）旁开办了有20张床位的医院。由中德双方出资，取名“同济医院”宝隆任院长。

1909年宝隆去世，为纪念埃里希·宝隆，同济医院更名为“宝隆医院”。

1946年更名为中美医院。

1951年5月，中美医院更名为同济大学医学院附属同济医院。

1951年-1955年，同济医院分批迁往武汉，更名为“武汉医学院附属第二医院”。后为享誉海内外的华中科技大学同济医学院附属同济医院。

1959年，上海急症外科医院与同济医院合并，改为第二军医大学第二附属医院，使“上海同济医院”命名。1968年10月，上海同济医院更名为上海长征医院。

1991年11月28日，上海铁道医学院附属甘泉医院正式开诊。

1995年3月22日，通过卫生部“三级甲等综合性医院”评审，当年更名为上海铁道大学附属甘泉医院。

2000年11月20日，更名为同济大学附属同济医院。

2010年2月，同济医院正式属地管理，第一冠名“上海市同济医院”，第二冠名“同济大学附属同济医院”，外科医疗教学大楼（同康楼）开工建设。

2017年3月，聘请中国最高科学技术奖得主中国工程院院士吴孟超为名誉院长。2017年5月18日，举行同济大学建校110年周年系列活动，“纪念宝隆”同济医院发展国际论坛，承百年医源，普同济新篇。

2021年12月，内科医技综合楼竣工验收。

2025年3月29日，上海市同济医院与新北区第二人民医院签署合作共建协议。