在元朝时期，山西直接隶属于中书省管理。
到了洪武元年(1368)，原来的晋宁路被改名为平阳府，紧接着在同年末，冀宁路被改为太原府。同年，大同路改设为大同府，同时潞州、泽州、沁州和辽州的行政级别也得到了提升，分别升格为潞州直隶州、泽州直隶州、沁州直隶州和辽州直隶州。
紧接着，这一年设立了山西行中书省，其行政中心设在太原府，管辖范围包括太原府、平阳府、大同府以及上述四个直隶州。到了洪武九年(1376)，汾州的地位提升为汾州直隶州。这一年，山西行中书省被改称为山西承宣布政使司，标志着新的行政架构的确立。
到了嘉靖八年(1529)，潞州直隶州升格为潞安府，继续演变。而万历二十三年(1595)，汾州直隶州进一步发展为汾州府，展现了山西承宣布政使司地区行政体系的逐步完善。
山西承宣布政使司，简称山西布政司。是明朝在今山西省地区和河北部分地区的一级行政区名，下辖4府4直隶州。布政使司衙门驻太原府。