历史上，山阳县的行政区划经历了多次变迁。最初是西晋泰始二年（266）从商县南部和平阳县北部划分出的丰阳县，其初设时疆域广阔，涵盖现今山阳全境、镇安大部分以及柞水和宁陕的部分地区，总面积约8000平方公里。在南北朝时期，丰阳县的边界有所变动，宋朝时期曾分置阳亭县和西丰县，随后又撤销。隋朝时，丰阳县的领土进一步扩大，包括上津地区。唐代，丰阳县的区域变小，安业县在万岁通天元年（696）从西部独立出来，相当于现在的镇安县。
明朝成化十二年（1476），丰阳巡检司升格为山阳县，疆域东至丹江，西至界河，北接流岭，南抵郧岭，总面积约为4000平方公里。清朝沿袭明代行政区划。民国时期，竹林关划归龙驹寨设治局。今日的山阳县，东西跨度88.5公里，南北宽60.7公里，总面积3514平方公里，是商洛地区面积最大的县。它的形状独特，如同一面展开的旗帜，东窄西宽，北短南长。
目前，山阳县下辖23个行政镇，包括：
山阳县位于陕西省商洛市，属陕西东南部，建县距今已1700余年，山阳地处秦岭南麓、商洛市南部。因县域北有流岭、中有鹃岭、南有郧岭，遂有“三山夹两川”之称。因山大沟深，耕地与河流相对较少，亦有“八山一水一分田”之说。东与丹凤、商南为邻，西与镇安、柞水交界，南与湖北省郧西县毗邻，北与殷州区接壤。全县辖23个镇，324个村（居），13.04万户44.97万人。县域面积3535平方公里，居商洛第一，陕西第六。境内森林面积373万亩，森林覆盖率62.9%。气候湿润，以农业、药材和矿产为经济支柱，河流有金钱河，汇入汉江；银花河，汇入丹江。