南唐保大十三年（955年），鉴于青山地区及其周边蕴藏着丰富的铜铁等金属矿藏，在割据时代是极为重要的战略资源，中主李璟 将青山场院升格，并划武昌县南部三乡（今汀祖、花湖、碧石渡、泽林等地）归其管辖，单设一县，定名大冶，青山场院治所改为县治。
1959年1月，大冶县由黄冈专区改隶黄石市。1996年12月，阳新县（明清时期与大冶同属武昌府）由咸宁专区转隶黄石市。
今日黄石，辖四区、一县一市，四个城区在1949年以前皆为大冶辖地，阳新县大致相当于南唐之际的永兴县。
宋、元、明、清时期，武昌县、大冶县同属武昌府管辖，各自的区划几乎没有变化。大冶自县城北至泽林嘴武昌界为70华里，西至杨桥堡武昌界为50华里。
1955年11月，大冶县第五区（汀祖）12个乡、第九区（碧石渡）的21个乡，共33个乡划归鄂城县；鄂城县第十区（晏公）、第十一区（谈桥）的35个乡和金牛镇划归大冶县管辖。1958年1月，鄂城县花湖乡方家墩一带永华九社（77户）划归黄石市管辖。
弄清了鄂县与武昌、大冶和武昌与大冶之间的关系，就大致明白了黄石与鄂州的历史渊源。
如前所述，今日武汉市，主体是明清时期的汉阳、武昌二府辖地的一部分，具体而言，包括武昌府的江夏县，汉阳府的汉阳县、黄陂县、沔阳州（治今仙桃市沔城）、夏口厅（治今武汉市汉口西）；1983年新洲县划入武汉市。武汉市下辖江汉、汉阳、武昌、江夏、黄陂、新洲等13个区和若干开发区。
今日黄冈市，秦代其市地之大部在衡山郡境内，汉代属荆州刺史部江夏郡和扬州刺史部庐江郡。其中，黄州、蕲春、红安、麻城等地属江夏郡，罗田、武穴、蕲春之一部和黄梅县属庐江郡。东汉建安十三年（208年），分江夏郡置蕲春郡，辖今蕲春、黄梅、黄州等地。三国至南北朝时期，市地之一部先后分属弋阳郡、蕲春郡、武昌郡、庐江郡，市境曾设巴州、衡州、罗州。
隋大业三年（607年），改黄州为永安郡，治所在今新洲境内（时属黄冈），辖黄冈、黄陂、木兰、麻城4县；改蕲州为蕲春郡，治所驻蕲春，辖蕲春、罗田、浠水、蕲水、黄梅5县。黄冈市地基本在永安、蕲春二郡辖境。唐宋时期，市地分属黄州和蕲州。
明洪武元年（1368年），改黄州路、蕲州路为黄州府、蕲州府，同属湖广行省。洪武九年，降蕲州府为州，与黄州府同属湖广布政司。十一年，蕲州仅代辖广济、黄梅两县，属黄州府管辖，自此蕲州与黄州合二为一。明嘉靖四十二年（1563年），割麻城、黄冈、黄陂各一部创置黄安县（今红安）。至此，黄州府下辖黄冈、麻城、黄陂、罗田、黄安、蕲水、广济、黄梅、蕲州，计八县一州。
清承明制，康熙三年（1664年），蕲州不再辖县。雍正七年（1729年），黄陂县划入汉阳府，黄州府辖黄冈、黄安、麻城、罗田、蕲水（今浠水）、广济（今武穴）、黄梅、蕲州（今蕲春），计七县一州。
综上所述，武汉市与黄冈市的关系，大致而言就是汉阳府与黄州府的关系，二者在历史上建置分明、纠葛很少，只是新洲地域（原黄州府黄冈县之一部）被划入武汉市。
黄石与黄冈二市同属鄂东，以长江为天然界限，隔江相望。
三国时期，黄冈属吴国扬州蕲春郡，黄石属吴国荆州江夏郡，二郡以长江为界。西晋时期，两地仍大致以长江为界，黄冈大部属豫州弋阳郡（唯黄梅属扬州庐江郡），黄石属荆州武昌郡。南北朝时期，两市同属郢州。此后所属屡变，但直至清末，两市基本以长江为界，界限分明。
明初，黄冈分属黄州府、蕲州府管辖，洪武十一年（1378年）起，黄冈、蕲春等七县和蕲州，并属黄州府，称“黄州八属”。1932年10月，英山县从安徽六安划入湖北，后属黄冈。明清时期，黄石市地属武昌府管辖。
1951年7月，划长江以北与黄石市区隔江相望的散花洲（明清时属蕲州卫，今属黄冈浠水）之一部，设立江北农场，归黄石市管辖，今为黄石港区江北管理区（江北工业园）。
1952年1月7日，中南军政委员会批准撤销大冶专区，大冶、阳新与鄂城一起划归黄冈专区管辖，其他7县划入孝感专区（后分属武汉和咸宁）。1959年2月和1965年7月，大冶县和阳新县分别由黄冈专区划归黄石市和咸宁专区。
从黄石港、道士 洑的集镇和码头形成之时起，江北浠水、蕲春等地与江南大冶的黄石港、石灰窑等地的联系就逐渐增多，黄石建市后联系更加紧密。黄石是移民城市，移民主体来自黄冈，同时由于离省会武汉较近，在语言上亦受其影响。江北方言和武汉方言的结合，就形成了独具特色的黄石（城区）方言。
