秦子婴元年冬，刘邦率农民起义军打到了咸阳灞上，秦王子婴投降，将传国玉玺献给了刘邦。秦朝灭亡。刘邦细心呵护着玉玺，并在西汉王朝建立后将它作为了新王朝的传国玉玺，并将其珍藏在长乐宫。西汉末年，外戚王莽篡拳，玉玺藏于长乐宫太后王正君处。太后不肯将玉玺给王莽，谁知道王莽命弟弟、安阳侯王舜逼老太后交出玉玺，老太后感觉被侄子给骗了，哭骂着将玉玺掷到地上，玉玺被摔掉了一角。后来，虽然王莽等人用黄金将缺角给补上了，不过玉玺还是留下了瑕痕。
后来王莽兵败被杀，禁卫军校尉公宾得传国玺，将其献给了更始帝刘玄。更始帝刘玄三年，赤眉军杀刘玄，立刘盆子。传国玉玺一度成为赤眉军拥立的小皇帝刘盆子的玉玺。后来刘盆子兵败宜阳，将传国玺拱手奉于汉光武帝刘秀。传国玉玺重新成为了汉朝的玉玺，从刘秀开始，一直在东汉诸帝手中流传，洛阳的东汉宫廷则负责保存传国玉玺。
东汉末年，天下大乱，几经周折玉玺落入汉献帝手中，后来董卓作乱，孙坚率军攻入洛阳。某日辰时，兵士见城南甄宫中一井中有五彩云气，遂使人入井，见投井自尽之宫女颈上系一小匣，匣内所藏正是传国玉玺。孙坚如获至宝，将其秘藏于妻吴氏处。后袁术拘吴氏，夺玺。袁术死，荆州刺史徐璆携玺至许昌，时曹操挟献帝而令诸侯，至此，传国玺得重归汉室。
公元220年，曹丕逼汉献帝禅位给自己，建立了曹魏。传国玉玺自然顺延成为曹魏的皇拳象征。曹丕派人在传国玉玺的肩部刻下隶字“大魏受汉传国玺”。三国一统于西晋，玉玺归晋。
晋怀帝永嘉五年，玉玺被灭亡西晋的匈奴部、前赵刘聪所夺得。东晋咸和四年，后赵石勒灭前赵，夺得玉玺，也画蛇添足在右侧加刻了“天命石氏”，意思是自己做皇帝是天命所归。后赵大将冉闵杀石鉴自立，建立了冉魏，续而拥有了玉玺。在乱世中，所有的野心家都需要给自己脸上贴金，希望证明自己拳力的合法性，同时贬低、打击对手。听说冉魏拥有玉玺，北边的鲜卑族心理不平衡了。
公元352年，鲜卑族慕容儁为得到传国玉玺，南下攻魏。三月，冉闵兵败被擒，五月被杀。中国北方陷入了“五胡乱华”时期，动乱不安。在这个阶段，称王称霸的人很多，但玉玺只有一个。怎么解决这个问题呢？于是很多豪强枭雄自己私刻玉玺。比如东晋朝廷南逃后，就自刻了一个玉玺；此外还有西燕慕容永刻的玉玺、姚秦的玉玺等等。他们私造玉玺的“创意”得到了后世许多乱臣贼子和枭雄豪强的欢迎和效仿。公元589年，隋朝统一全国，那些私刻的传国玉玺也就统统被隋朝没收了。