万木草堂所在的邱氏书室始建于清嘉庆九年（1804年）。

清光绪十六年（1890年），康有为在广州大塘街的祖屋“云衢书屋”正式开讲，梁启超与友人陈千秋拜入康有为门下，成为康有为的得意门生和得力助手。

清光绪十七年（1891年），在梁、陈二人的建议下，康有为将书屋迁至长兴里拐角处的邱氏书室，这里绿树成荫，环境清幽。取培植万木、培养栋梁之材的含义，康有为将书室命名为“万木草堂”，并定下了“激励气节，发扬精神，广求智慧”的办学宗旨。

清光绪十九年（1893年）又因弟子渐增，迁至广府学宫仰高祠。

清光绪二十四年（1898年）9月，随着戊戌变法失败，康有为逃亡日本，万木草堂被清政府查封。