从汉代设立太学以后，历代王朝都设立最高学府，称为国学。西晋时除太学外，又建立了专门招收官员子弟的国子学。南北朝时，南朝宋、齐的国学，一度包括儒学、玄学、文学和史学四个馆，已有综合大学的特征。从隋朝起，国子监成为中央教育行政机构，它本身又是最高学府。唐朝的国子监统辖国子学、太学、四门学、书学、律学、算学等六学，其中前三学都是儒学，分别招收不同品级的官员子弟，四门学招收部分平民子弟，还接受周边各国的留学生。地方官学的优秀学生可以保送到四门学读书。后三学是专门学校，分别学习书法、法律和数学。北宋时先后三次兴学，国学的体制大为健全。明清时，国子监的学生有四种来源：一是由地方各级学校推荐学生（清代统称贡生），二是官员或功臣子弟，三是举人会试落榜者，四是交纳钱财获得监生身份者。国子监生有做官的资格，但仕途不如科举优越。
中国于汉、唐盛世之时，文化曾居于世界领先地位，更是东亚的文化中心。东汉时，就有匈奴等周边民族派遣学生到太学学习。唐朝首都长安经常有朝鲜、日本、东南亚各国和北方游牧民族来求学者，古代的日本政府请求派遣留学生到长安学习，以便能长期留在中国学习，这就是“留学生”这个词汇的由来。古代中国只有外国留学生来华，中国从不派人出国学习。这一局面到鸦片战争后才开始转变。
自文翁兴学得到汉武帝提倡以后，地方办学就兴盛起来。东汉时，岭南直至交趾（今越南北部）都有办学的记载。地方官学主要目的是作为一方文教中心来推广教化。地方官学既要通过培养贤才在本地起模范作用，又要通过演习礼乐等移风易俗的社会教育活动，来改善本地社会风尚。早期的地方官学兴办完全取决于地方长官的意愿，自行办理，所以并不普遍，兴废无常，良莠不一。宋代起，由朝廷向各地官学委派教官，教官拥有学校管理的自主权，地方当局不得随意干预学校事务。元代以后，所有的地方各级行政单位都建立了学校。明清时期，只有地方官学的生员（俗称“秀才”）才有参加科举乡试的资格。未入学的读书人，无论学业高低、年龄大小，都称童生，童生的入学考试成为科举之途的第一次拼搏。
汉代官方率先办学的不是中央政府，而是汉景帝时的蜀郡太守文翁。当时蜀郡还是未开化的地方，文翁先从郡吏中选派聪慧者十余人到长安，跟随博士官学习。当时博士还没有培养弟子的职责，文翁每年都用私人经费购买一些土产馈赠给博士，以表示酬劳和谢意。数年后，这些人学成归来。于是文翁在成都立学，招收属县子弟入学，学成者都给予重用，或者推荐到朝廷做官。文翁在公堂处理政务时，常让学生参与；外出视察时，随从人员中也常有学生，让他们代表郡府发号施令，官吏民众见了都羡慕不已。蜀郡于是学风大盛，有些富人家情愿出钱以求子弟能够入学。到汉武帝时，将文翁兴学的经验加以推广，下令“天下郡国皆立学校官”。文翁不仅是蜀地教化的开拓者，也是办理地方学校的先驱。文翁兴学后来成为千古美谈，后人以“文翁化蜀”这一典故来称颂地方官重视和推广教化。
书院本是藏书之处，唐代集贤殿书院就是宫廷图书馆。发明印刷术，使过去必须逐字抄写的书籍可以整版地印出来，为藏书提供了便利的条件，民间学者也将自己的藏书和读书场所称为书院。后来，书院就逐渐发展成以藏书为基础、教学和学术研究活动的机构。这种书院出现在唐末五代时期。宋代统治者鼓励民间兴办书院，皇帝赐匾额，朝廷赐图书，地方当局给予房地产资助，使书院兴盛起来。著名学者举办的书院，往往是一方学术中心，吸引各地读书人前来求学，在教学、学术研究以及学校管理方面有许多建树和创意，在古代学校中具有一枝独秀的地位。
汉代独尊儒学，儒家经典就成为教育的主体内容。在儒学之外，古代还举办过多种专业学校。公元二世纪末，汉灵帝喜好辞藻文采，办起了世界上第一所学习辞赋、小说、绘画、书法的文艺专科学校──鸿都门学。出自皇帝个人喜好而举办的专业学校还有唐玄宗办的《老子》学和宋徽宗办的画学。天文学因为是确定历法所需，而且古人有观天象测人事的传统，所以历代都很重视，由专门机构司天监培养天文生。医学也是历代都有的，唐代在府、州两级均设立医学，还举办过兽医学。明清两代还办过培养翻译人才的外语学校，包括周边国家的各个语种。此类专业学校，都是培养在政府中专门机构供职的专业官吏，而不是可以自由择业的专业技术人员。数学、法律、军事等领域的专门人才培养，有的朝代设有专业学校，有的朝代则将其列入普通学校的学习内容。中国是世界上最早开设专业学校的国家，门类也最多。
