东汉末年，宦官专权，十常侍作乱，杀死了大将军何进，少帝和陈留王出宫避难，仓促间来不及携带玉玺。回宫后，传国玺不知所踪。后来董卓一把火烧了洛阳城，带着汉献帝迁往长安。这是传国玺历史上第一次下落不明。
参与讨伐董卓的东吴孙坚带兵进驻洛阳废墟，打扫祭祀汉室宗庙，发现一口井里冒出五色光芒。孙坚派人到井里打捞，见一投井自尽的宫女颈上系一小匣，匣内所藏正是传国玉玺。孙坚如获至宝，将传国玺交由其妻吴氏保管。
孙坚死后，想要僭位称帝的袁术绑架了孙坚妻子吴氏，索要走了传国玺并称帝。袁术败亡后，荆州刺史徐璆携传国玺至许昌，当时曹操挟汉献帝而令诸侯。至此，传国玺得以重归汉室。
曹丕篡汉，汉献帝被迫“禅让”，曹丕建魏，改元黄初。乃使人于传国玺肩部刻隶字“大魏受汉传国玺”，以证其非“篡汉”。关于曹丕刻字于传国玺上这件事，最早记录在《辽史》中，此时距曹丕时代已经过去1100多年，可信度大打折扣。其他的正史中没有关于曹丕传国玺刻字的记载，所以曹丕刻字于传国玺这件事存疑。
司马炎仿照曹丕篡汉的模式，篡了曹魏政权，称晋武帝，改元泰始，传国玺归晋。西晋永嘉之乱，匈奴人刘渊建立前赵政权，其子刘聪率军南下，攻陷西晋京师洛阳，俘获晋怀帝司马炽，传国玺被前赵政权获得。司马睿在江南建立东晋政权。
后来前赵内乱，最后一个皇帝刘曜酒后驾马而死，其太子献传国玺给后赵的石勒，石勒又在传国玺的侧面刻上了“天命石氏”四个字。当时传国玺一直在北方政权中流传，而偏安江南的东晋政权由于没有传国玺，被讥讽为“白版天子”。
传国玺几经辗转又传到了武悼天王冉闵手中，冉闵被前燕的慕容儁俘获之后，他的儿子和手下将领蒋干为求乞东晋救援，被迫献出传国玺，东晋将领获得玉玺后以三百精骑连夜送至东晋都城建康（今南京），由此，传国玺乃重归晋朝司马氏囊中。
关于重回东晋的这方传国玺，《晋阳秋》记载，冉魏大将军蒋干送给东晋的传国玺上刻的字是：昊天之命，皇帝寿昌。这里可能是作者记录错误，从后世的各种资料来看，这里应该是：受天之命，皇帝寿昌。当时东晋许多朝臣也认为此玺是假，因为刻字与真正的“秦传国玉玺”不符。所以推测“秦传国玺”可能已经遗失。东晋开始传承的传国玺是另外一方，不妨称其为“南朝传国玺”。
受天之命，皇帝寿昌
与此同时，前燕的慕容儁自称冉闵的老婆向其献上传国玺，关于这块玺的特征，历史记载不明，我们暂且称这块玺为“前燕传国玺”。
前秦的苻坚灭了前燕后，得到慕容儁的“前燕传国玺”。 淝水之战失败后，西燕攻入前秦京师长安，苻坚逃走，并未携带“前燕传国玺”， 这方传国玺很有可能落入西燕慕容冲手里，此后这方玉玺失去记载下落不明。
东晋末年，桓玄篡晋，得到了“南朝传国玺”。因遭到北府兵将领刘裕讨伐，裹挟晋安帝西逃，兵败逃回江陵，遭西讨义军击败。桓玄余党逃到后秦，后秦姚兴声称这些人把东晋的传国玺带到了后秦； 而晋安帝也逃回了建康，刘裕声称皇帝把东晋的传国玺带回来了。后来刘裕破长安灭后秦，得到了后秦说的那方传国玺，但是此方传国玺是阳文，与之前的阴文不同，显然是造假了。我们称此玺为“后秦传国玺”。其实十六国和南北朝时期，由于政权太多，为了证明自己的正统地位，很多政权都私刻或伪造过传国玺。此时的“后秦传国玺”和“南朝传国玺”都归了东晋。
