南洋模范中学的前身是南洋公学（今西安交通大学、上海交通大学）附属小学。1901年清大理寺卿盛宣怀得光绪允准，在徐家汇北部（今交通大学南院）购地造房、筹建学校，以培养洋务人才，图富国强民之路。20世纪的前50年，中国处于屈辱、动乱、战争、苦难的时期。随着政权更迭、世事变迁，南洋公学也处于不断的变动之中。由于学校的归属和主事人的更迭，校名也随之变更。直到1927年学校脱离南洋公学独立办学，并定名为“私立南洋模范中小学”。1937年12月日本侵略军占领上海，附小的校舍被日军抢占，被迫只能在姚主教路（今天平路200号）租借了一幢旧官僚的楼房——红楼继续开展教学。红楼占地面积不到半亩，而校长、教师办公室、宿舍以及学生的教室全部都挤在这一栋小楼里，教学条件非常艰苦。

新中国建立后，根据国家的布局调整，南洋模范中学在1956年改为公立，1959年被列为上海市重点中学。改革开放后，全社会对教育越来越重视，学校发展更是驶上了快车道。1988年，上海市教育局为改善南模中学办学条件，在天平路200号新建了5层高的教学楼，建筑面积4000多平方米，共有各类教室28间、办公室16间。同年，市教育局又将已停办的华光中学校舍、场地划入南模中学，原华光中学旧大楼拆除，扩建为运动场，整个学校面貌自此就焕然一新。

1950年4月，毛泽东主席应学校高一学生请求，为学生壁报题字“青锋”，意为“青年先锋”。1956年改为公立，1959年被列为上海市重点中学。根据国家的布局调整，学校现为全日制初高级中学。2001年8月，时任中华人民共和国主席、中共中央总书记江泽民为百年南模寄语“四个模范（求知的模范、生活的模范、爱国的模范、进取的模范）”，这是国家领袖对南模人的殷切期望。 学校现为上海市实验性示范性高中。

百年沿革，学校已发展为“天平”、“零陵”、“天钥桥” 三个校区，其中“天平”、“零陵”校区占地总面积为37亩，校舍总面积近2·5万平方米，绿地总面积近5千平方米。学校有较好的教育设施，有200米跑道的田径场、文艺、体育、办公综合楼、设备较先进的网络教室、实验室、专用教室等。学校有一支高水平的师资队伍，现任校长为李啸瑜。学校还有特级教师3人，高级教师50余人；区拔尖人才3人，学科带头人3人；硕士研究生及研究生课程学历者近20人。