公元725年李唐王朝在黑龙江流域设置黑水军，后改为黑水都督府。黑水都督府的治所位于今天俄罗斯境内的哈巴罗夫斯克，所辖区域“南距渤海，北、东际于海，西抵室韦，南北袤二千里，东西千里”。在这一时期唐朝人已知晓兴凯湖这一位于东北边陲的湖泊的存在。当时唐朝人称这个湖泊为湄沱湖，唐代的湄沱湖以盛产“湄沱之鲫”闻名。黑水都督府大约存在了90年，之后在晚唐的战乱之中逐渐消失于史籍之中。
唐朝势力从东北的退出为当地的粟末靺鞨部族提供了趁势崛起的机遇：武周时期粟末靺鞨人大祚荣趁契丹叛乱之机逃出辽西营州（今天的辽宁朝阳）向高句丽故地进发。大祚荣率领自己的族人在天门岭（今辽宁北镇市）成功伏击了追击的唐军。此后大祚荣所部“度辽水，保太白山（长白山）之东北，阻奥娄河（牡丹江上游），树壁自固”。圣历元年（公元698年）大祚荣在东牟山（今吉林敦化敖东）筑城定都。
大祚荣由此建立起粟末靺鞨的大震国政权（后改国号为渤海国）。这是东北历史上第一个真正控制东北大部分地区的地方政权。渤海国在其早期阶段接受唐朝册封的渤海都督这一官职，所以这时的渤海国其实是唐朝统治下的羁縻州府。安史之乱后随着唐朝国力的日益颓废使渤海国的独立性变得越来越强，从而最终发展成为独立于唐王朝的地方割据政权。
公元925年辽太祖耶律阿保机征服粟末靺鞨人建立的渤海国后将辽国版图扩张至太平洋滨海地区。这一时期包括兴凯湖在内的广大东北地区都处于辽国的统治之下。女真人建立的金国灭辽以后包括兴凯湖在内的广大东北地区自然又都处于金国的统治之下，在辽、金统治时期因湄沱湖形如“月琴”而改称“北琴海”。此后该地又曾隶属于元代的辽东行省、明代的奴儿干都司。
直到清代又将北琴海改称兴凯湖。关于“兴凯湖”这一名称的来历有两种说法：其一是说源自于满语中的“水耗子”，据说这是因为当时兴凯湖中水鼠很多的缘故；其二是说源自于当地赫哲语“肯卡”的偕音，意为水从高处向低处流。古代中原王朝对东北地区的开拓长期以来只到辽东半岛一带，位置相对更加偏北的吉林、黑龙江两省在古代只分布着一些原始的渔猎部族。
土地肥沃而又辽阔的东北平原直到晚清时期之前一直是“千里无人烟，万里无鸡鸣，群兽常出没”的天然野生动物园。当时的史书对此曾记载道：“关东地有自然之大利三：曰荒、曰矿、曰盐，而‘荒’居首位”。直到晚清民国时期随着大量关内山东、河北地区的移民掀起“闯关东”的热潮之后才使昔日东北地区的大量荒地得到开垦。如今中国东北地区的人口结构是由“闯关东”这场人口迁徙活动所塑造。
