17世纪中期，清朝逐步确立了自己的统治以后。根据实际情况，进一步调整各省份的区划。最终，形成了内陆18个省的区划。当时，山东省下辖了10个府，分别是：济南府、兖州府、东昌府、青州府、登州府、莱州府、武定府、沂州府、泰安府、曹州府。总计下辖了11个散州和96个县，从清朝统治时期，山东省就属于我国的人口大省。
1912年，清朝灭亡以后，我国进入了军阀混战的阶段。山东省地理位置特殊，各路军阀反复争夺，对山东省造成了很大的破坏。与此同时，山东各地先后经历了旱灾、蝗灾等自然灾害，各地急需进入休养生息。一转眼到了建国初期，随着局势稳定，我国进入了战后重建、经济建设、恢复生产的阶段。
一系列的重大项目，开始在山东省各地建立。山东省内设立了一系列的专区，1949年，山东省下辖了3个地级市、1个特区和16个专区，分别是：济南市、青岛市、徐州市、淄博工矿特区、北海专区、南海专区、东海专区、西海专区、昌潍专区、沂蒙专区、滨北专区、滨海专区、合枣专区、尼山专区、泰山专区、泰西专区、清河专区、垦北专区、沧南专区、泺北专区。
也许大家发现了，大家看到了苏北地区的名字。这是因为在建国初期，江苏北部的部分市县，曾经划入了山东省代管。进入50年代以后，此时，过于复杂的区划，反而不利于经济发展。1952年之后，山东省的区划出现了大规模调整。首先，划入山东省代管了3年多时间的苏北地区，重新还给了江苏省。
在此之前，为了治理黄河，山东省的菏泽、聊城、湖西等地，曾经划入了平原省管理。1952年，平原省被撤销以后，聊城、菏泽、湖西等地，重新划入了山东省。在山东省的16个专区中，除了昌潍专区之外，其他15个专区，都出现了大规模调整。15个专区被撤销，设立了10个专区，分别是：滕县专区、临沂专区、泰安专区、沂水专区、德州专区、胶州专区、惠民专区、莱阳专区、淄博专区、文登专区。
与此同时，鉴于烟台市港口的重要性和带动作用，烟台市被晋升为地级市。不过，50年代的地级市，管辖范围都不大，仅仅下辖了市区和郊区。1953年，山东省撤销了2个专区。淄博专区被撤销，下辖的各个县，划入泰安专区、惠民专区等地。与此同时，设立了淄博工矿特区。沂水专区被撤销，原来下辖的各个县，划入了临沂专区和胶州专区管理。
同一年，滕县专区更名为济宁专区。到了1954年，淄博工矿特区被撤销，设立了淄博地级市。1956年，山东省的文登专区、胶州专区和德州专区被撤销。其中，文登专区原本下辖的各个县，划入了莱阳专区管理。胶州专区原本下辖的各个县，划入了昌潍、莱阳等专区管理。德州专区下辖的各个县，划入了聊城、惠民等专区管理。
1958年，泰安专区、菏泽专区被撤销，下辖的各个县，划入了济南市和聊城专区、济宁专区管理。同一年，烟台地级市、淄博地级市被降级为县级市。由于很多专区出现了合并，好几个专区都下辖了20多个县。按照当时的交通、通讯等方面的条件，管理这么多县，难度非常大。在此期间，莱阳专区更名为烟台专区，惠民专区更名为淄博专区。
到了60年代初期，为了解决部分专区管辖范围太大的问题。惠民专区、德州专区、泰安专区等几个专区重新设立。淄博市也再次提升为地级市，鉴于枣庄市的交通地位和煤炭资源，枣庄市设立为地级市。历经这一阶段的区划调整以后，山东省的各个专区和地级市，基本上稳定下来。60年代末期，全国所有的专区更名为地区以后，山东省的各个专区先后更名。
