中国建筑股份有限公司的前身最早可以追溯至中央财政经济委员会总建筑处，为第一个五年计划做准备。
1952年8月7日，中央人民政府委员会举行第十七次会议决定成立中华人民共和国建筑工程部，任命陈正人为中央人民政府建筑工程部部长，周荣鑫、宋裕和、万里、刘秀峰为为中央人民政府建筑工程部副部长。建筑工程部隶属于隶属于国务院的部级机构，主管建筑工程等工作，各省市设建筑工程局，归建筑工程部领导。同年8月28日， 中国人民解放军37军受建筑工程部领导。
1953年1月，解放军37军番号撤销，原37军司令部合并到建筑工程部。
1954年9月28日，第一届全国人民代表大会第一次会议任命刘秀峰为建筑工程部部长。
1955年4月7日，国务院总理周恩来提请将城市建设局从建筑工程部划拨出来，成立直接隶属于国务院的城市建设总局。
1958年2月11日，第一届全国人民代表大会第五次会议决定将建筑材料工业部、建筑工程部和城市建设部合并成为建筑工程部。 同时国家建设委员会被撤销。其工作的一部分交由建筑工程部管理。
1964年11月5日，任命李人俊为建筑工程部部长，免去刘秀峰的中华人民共和国建筑工程部部长的职务。
1965年3月31日，全国人民代表大会常务委员会决定将中华人民共和国建筑工程部分为中华人民共和国建筑工程部和中华人民共和国建筑材料工业部。同时任命刘裕民为中华人民共和国建筑工程部部长，赖际发为中华人民共和国建筑材料工业部部长。 免去李人俊的中华人民共和国建筑工程部部长的职务。
1970年6月22日，中共中央批准《关于国务院各部门设立党的核心小组和革命委员会的请示报告》，决定国家建委、建筑工程部、建筑材料工业部、中共中央基建政治部合并，成立国家基本建设革命委员会。
1979年3月，撤销国家基本建设革命委员会，成立国家建工总局。
1982年6月，按照国家政企分开的原则，撤消国家建工总局，将国家建工总局直属的第一至第六工程局，东北、西北、西南建筑设计院等，与专门从事对外承包业务的中国建筑工程公司合并组建的全国性特大型建筑联合企业——中国建筑工程总公司。组建时的中建总公司实行国内外一体化经营，是当时国务院的十大公司之一，计划单列。
1983 年9 月，根据国务院、中央军委决定，中建总公司成建制地接收了原基建工程兵第21、第22 支队，分别组建为中国建筑第七、第八工程局。
1984 年以后，相继投资成立或接收了一批独资、内联、中外合资等多种经济类型的企业。
1999－2000年，又先后接收了与建设部脱钩的中国对外建设总公司、中国建设机械总公司、中国市政工程西北设计研究院有限公司等企业。
2007 年12 月6日，经国务院国资委批准，中国建筑工程总公司、中国石油天然气集团公司、宝钢集团有限公司、中国中化集团公司等4家世界500强企业共同发起设立中国建筑股份有限公司。
2009年7月29日，中国建筑在上海证券交易所A股成功上市，以4.18元/股的价格发行120亿股，募集资金总额为501.6亿元，是2009年全球股市最大一单IPO。
