为强化统一管理，汉在这里实行军事屯田，推行军农结合的管理体制。在中国历史上，河西四郡的建立对丝绸之路的畅通，对中西经济文化的交流产生了重要影响。
汉元封五年（前106年），全国分设13州，各州设一刺史，史称“十三刺史部”。河西走廊属凉州刺史部管辖。
东汉时，改革地方行政制度，赋予地方官以较大的权力。在郡之上又设立起了州一级地方政权，并将刺史更名为州牧。由此，将实行了400年之久的郡、县两级制改为州、郡、县三级制。当时，凉州辖10个郡，99县和2个属国。
河西走廊设有武威、张掖、酒泉、敦煌四郡。另外，新增设了两个属国。一个是张掖属国，在今张掖市的东北面；另一个是张掖居延属国，在居延海西一带（今内蒙古自治区额济纳旗境内）。属国在政区级别上相当于郡，地方长官称都尉。
东汉兴平元年（194年），在河西置雍州（州治姑臧），撤销凉州。
三国时期，基本上沿袭了前朝的州，郡、县三级行政体制。
魏黄初元年（220年），曹丕重置凉州。
“魏、蜀、吴三国鼎立时期，省境共设有凉州1州（另外一部分地方分属雍州和益州），12个郡，77个县。”大部分地方属魏国，南部的部分地方属蜀国。
凉州领金城郡（治今兰州西）、西平郡（治今青海西宁）、武威郡（治姑臧县）、张掖郡（治今张掖西北）、西海郡（治居延）、酒泉郡（治今肃州）和敦煌郡（治今敦煌市西）。河西走廊的武威郡、张掖郡、酒泉郡、敦煌郡等属于魏。西晋时，凉州治姑臧，辖6个郡，即金城郡、武威郡、张掖郡、敦煌郡、酒泉郡和西郡（今山丹一带），共41个县。
“五凉”，指魏晋南北朝时期存在于河西的、以“凉”为号的五个割据政权。
其中，有两个是少数民族建立的政权，即鲜卑人秃发乌孤建立的南凉，卢水胡人沮渠蒙逊所建立的北凉。
从晋永宁元年（301年）张轨为凉州刺史算起，直到北魏太延五年（439年）沮渠氏建立的北凉灭亡，“五凉”的存在的时间长达130多年。
