近代
清代实行道、府（直隶州、厅）、县（散州、厅）三级管理体制。省境内共设54个州县（4个散州，50个县）。太平天国在安徽境内占领区建政是采取省、郡（州）、县三级管理体制，改清代的府为郡。
中华民国成立后，废府、州、道，北京政府初期实行省、县二级管理，今安徽境内砀山、萧县仍属江苏省，其余60个县仍属安徽省。民国3年（1914年）6月2日，全国实行省、道、县三级管理体制，砀山、萧县属江苏省徐海道；皖属淮北地区及部分淮南地区属淮泗道，江淮地区属安庆道，江南地区属芜湖道。
南京政府初期实行省、县二级管理体制。民国21年（1932年）4月2日，实行首县制；10月10日，实行行政专员督察区（专区）制。 抗日战争期间，除国统区外，由中国共产党领导的抗日民主根据地，省境建政完善的根据地共有皖中（江）、淮北、淮南3块，其边区政府（又称行政公署）相当于省级，其下为专区，再下为市、县。此外，日伪、汪伪政权也在沦陷区建省，今省境分属淮海、安徽2个省，下设专区，再下为市、县。安徽境内在中华民国后期共设62个县1个市，计63个二级地方行政区划。
解放初期，皖北地区分属皖西、江淮、豫皖苏边区3个行政公署，下设专区，再下为县、市。1938年4月3日，华东局电请中央批准成立皖北人民行政公署。经中央批准，15日，撤销3个行政公署，成立皖北人民行政公署。4月15日，皖北人民行政公署颁发第一号通知，公布皖北行署统辖的专区、市、县。5月13日发第一号通知，公布皖南行署统辖调整后的专区、市县。皖南、皖北2个行署行使省的权力，但比省的规格要小。行署下辖直辖市、专区，再下为县及专辖市。
1952年8月7日，撤销皖南、皖北人民行政公署，合并成立安徽省。8月25日，安徽省人民政府正式成立，仍实行省、省辖市（专区，后称行署）、县（专辖市）又称县级市三级管理体制。
