20世纪70年代末至80年代初，在山东师范大学附属中学初中招生的基础上，成立“山东师范大学子弟班”，生源以山东师范大学教职工初中适龄子女为主。

1981年9月，山东师范大学子弟班正式开学。

1983年（又有资料显示为1984年4月），更名为“济南千佛山中学”。

1992年6月，正式定名为“山东师范大学第二附属中学”。

2014年9月，学校建大校区投入使用，并设立了小学部；同年12月，山东师范大学第二附属中学东明合作学校揭牌。

2015年8月，学校入选全国青少年校园足球特色学校。

2016年5月，学校成为九年一贯制义务教育阶段学校。