南宁市第二中学最早可追溯到清光绪三十二年（1906年），时任南宁知府杜庆元、学务公所李祖若等人于在苍西门大街创办的南宁府中学堂。

清宣统三年（1911年），更名为南宁府中学校。

1913年，更名为南宁中学校。

1917年，更名为广西省立第一中学。

1929年，广西省立第一中学分设高中部和初中部。同年，广西省第三师范并入广西省立第一中学高中部。

1931年，广西省立第一中学高中部更名为广西省立第一高级中学，初中部更名为广西省立第一初级中学。

1934年，更名为广西南宁高级中学。

1944年，南宁女子中学与广西省立第一初级中学、广西南宁高级中学合并成立广西省立第一联合中学。

1946年，广西省立第一联合中学解体，拆分为省立南宁高级中学、南宁初级中学、南宁女子中学（后更名为南宁女子师范初中部）。

1947年，南宁初级中学更名为邕宁县第一中学。

1950年2月，省立南宁高级中学、邕宁县第一中学、南宁女子师范初中部（后增设高中部）合并为南宁中学。

1953年，更名为南宁高级中学。

1954年8月，南宁高级中学迁往垠边村新校址，在原南宁高级中学旧址（经文街）新办一所完全中学，定名为南宁市第二中学。

2008年，第一批学生入驻南宁市第二中学凤岭校区。

2009年6月28日，凤岭校区举行落成典礼。

2013年，学校与广西—东盟经济技术开发区联合创办南宁市第二中学东盟校区（官方定名“南宁市东盟中学”），并设高中部和初中部。