元朝虽然建立了行省制度，奠定了行省制度的框架，但各方面并不完善。首先，元朝行省的区划不合理，地方管理难度很大。第二，各地机构的设计非常简单，而且相互重叠。到了元朝统治的末期，已经出现了诸多问题。1368年，朱元璋建立明朝以后，根据明朝的实际情况，在元朝行省的基础上，进一步调整了各地的区划。
在明朝永乐皇帝朱棣完成了迁都以后，明朝形成了南北直隶与13个省的区划。其中，我国很多省份的区划，都是在明朝统治时期确立下来的，例如江西省、山东省、河南省等等。与现在的区划相比，已经非常接近了。当时，江西省划分了13个府，分别是：南昌府、瑞州府、九江府、南康府、饶州府、建昌府、广信府、抚州府、赣州府、南安府、临江府、袁州府、吉安府。
其中，九江府虽然已经出现，但区划结构并没有形成。九江府下辖了德化县、德安县、瑞昌县、湖口县、彭泽县等5个县。星子县、都昌县、建昌县隶属于南康府，宁县和武宁县，隶属于南昌府管理。17世纪中期，清朝逐步确立了自己的统治以后，根据自己的世纪需要，进一步调整了各地的区划。最终，形成了内陆18个省的区划。在江西省，区划调整的规模非常小。
尤其是九江府的区划，几乎没有变化。在清朝统治的后期，爆发了大规模的太平天国运动。当时，九江府扼守了江西、安徽、江苏几个省的门户，属于清军和太平军反复争夺的城市，双方精锐尽出。曾国藩和老对手石达开，先后抵达前线，指挥部队作战。
1912年，清朝灭亡以后，我国进入了军阀混战的阶段。各地军阀反复争霸，对各地造成了很大的破坏，各地群众急需进入休养生息。一转眼到了建国初期，随着局势的逐步稳定，我国进入了战后重建、恢复生产、经济建设的工作。与此同时，各种工程在江西省开工建设，例如铁路建设等等。在江西省内，设立了一系列的专区，例如上饶专区、抚州专区、九江专区等等。
其中，1949年，九江专区设立以后，下辖了11个县市。分别是：九江县级市、九江县、彭泽县、瑞昌县、湖口县、武宁县、德安县、星子县、修水县、都昌县、永修县。在50年代初期，修水县、彭泽县、湖口县、都昌县，曾经短暂划出了几个月。但随后，又划入了九江专区。60年代末期，全国所有的专区都更名为地区以后，九江专区更名为九江地区，管辖范围不变。
1978年，鉴于庐山的旅游价值，九江市设立了庐山县级镇，相当于12个县市。进入70年代末期，随着我国经济持续高速发展，为了适应时代发展的需要，我国很多省份下辖的各个地区，陆续调整为地级市。与此同时，一些县级市也在变化。1980年，九江地区下辖的九江县级市，被提升为地级市。并且设立了浔阳区、郊区。
同一年，庐山县级镇被撤销，设立了庐山区，划入了九江市管理。至于九江地区，仍然继续存在，下辖10个县。1983年7月，九江地区被撤销，与九江市合并，下辖的修水县、武宁县、瑞昌县、永修县、德安县、九江县、星子县、都昌县、彭泽县、湖口县等10个县，划入了九江市管理。与此同时，原来的庐山区被撤销，设立了专门的庐山风景名胜区（不属于行政区划）。
至于九江市的郊区，则更名为新的庐山区。请注意，这两个庐山区不是一回事。此时，九江市下辖了2个区、10个县，总计12个区县。80年代末期，瑞昌县被撤销，设立了瑞昌县级市，九江市下辖了2个区、1个县级市、9个县。随着九江市的持续发展，城区人口进一步增加，城区面积进一步扩大。2010年，九江市设立了共青城县级市。
