中国土木前身为中华人民共和国铁道部援外办公室，20世纪60至70年代，曾经负责组织、实施著名的非洲坦赞（坦桑尼亚至赞比亚）铁路工程。

1979年6月1日，中国土木工程公司经国务院批准正式成立，成为中国第一批参与国际市场竞争的四家外经公司之一。

1996年12月26日，经国家经济贸易委员会和中华人民共和国铁道部批准，以中国土木工程公司为核心企业组建了中土集团，中国土木工程公司同时更名为中国土木工程集团公司。

2000年9月，中国土木完成与铁道部脱钩工作，划归中央企业工委直接管理。

2003年初，包括中国土木在内的196家中央企业由国资委直接管理。

2003年9月，根据国资委《关于中国铁道建筑总公司与中国土木工程集团公司实施重组的批复》（国资改革函[2003]153号）文件精神，中国土木以并入的方式实现了与中国铁道建筑总公司的战略性重组。

中国土木是中国国际商会会员、中国对外承包工程商会副会长级单位和中国国际工程咨询协会理事成员。

四十多年来，中国土木经营领域不断拓宽，已逐步形成了以工程承包为主业，以铁路工程为特色，多业并举的经营格局；市场覆盖地域不断扩展，市场布局已初具网络框架雏形；经营规模日益扩大，成功承揽实施了一大批投资金额大、建设周期长、技术复杂的大中型综合项目；资产规模不断扩大，净资产规模稳步增加；综合实力不断增强，在国内拥有“铁路工程施工总承包特级”主项资质、“房屋建筑工程施工总承包一级”和“市政工程施工总承包一级”两个增项资质以及“城市轨道交通工程专业承包一级”、“建筑装修装饰工程专业承包一级”两个专业增项资质；行业地位不断提升，国际品牌优势初步确立，在境外市场尼日利亚、阿联酋、坦桑尼亚和博茨瓦纳等国家和地区取得了当地经营的最高资质。

2022年4月24日，驻尼日利亚中资企业安全控制中心在中国土木集团尼日利亚有限公司正式揭牌，安全控制中心将在企业风险管控、信息预警、应急处置等方面发挥积极作用。

2023年5月，作为首批成员单位加入“一带一路”绿色发展国际联盟。