1955年，北京铁路局筹建北京市铁路第二中学，由于校舍尚未建成，学生分散在北京市铁路第七小学和北京市铁路第一中学上课。

1956年，学校迁入新校舍。

1956年，学校招收高中两个班，开始由初中校向完全中学过渡。

1964年，学校迁入北京市西城区月坛西街5号校址。

1978年，学校被定为全国铁路系统重点中学和西城区重点中学

2004年，学校由铁道部划归到西城区政府。

2005年，学校被评为北京市示范性普通高中。同年“北京市第四十二中学”并入学校。

2007年，“北京市铁路第三中学”并入学校。

2008年，学校聘请了一批特级教师和专家组建成立了专家顾问团。

2020年5月，入选北京市中小学科技教育示范学校名单。