公元310年，石勒(此时是前赵的大将)攻打河内，勒见两军阵前的一少年英勇非凡，长而勇悍，精于骑射，阵前临矢石不顾。勒赞曰：“此儿壮健可嘉!”冉瞻寡不敌众，被俘。石勒徙冉瞻及其部众于兰陵郡。327年，冉瞻在和匈奴前赵的战斗中被斩于阵前。冉瞻之子就是后来的冉闵。冉闵除继承了父亲的勇猛外，还善于使用智谋。冉瞻在一次作战时为羯赵俘虏，因伤势过重没几天就去世了，羯赵国主石勒欣赏勇冠三军的冉谵，见当时十一二岁的冉闵聪明伶俐，石勒就将小冉闵认作干孙子，为他改名叫石闵，并一手将他带大。仇人的强大使冉闵只有将仇恨深埋心底，强忍内心悲痛讨石勒欢心。成年后的冉闵骁勇善战，在羯赵与鲜卑的战斗中屡立战功，逐渐成为羯赵帝国的高级将领。
公元338年，少年冉闵首次参加战争，在昌黎大战，史载后赵诸军尽溃，唯游击将军冉闵三千汉军独全。此战后，冉闵成名，被石虎提拔为北中郎将，参加了防卫后赵北方边界的战事(当时北方燕代之地，后赵境内有内迁的丁零，乌桓，夫余等各族各部，时常有叛乱，外有慕容鲜卑常发兵寇边)。冉闵在防卫后赵北方边界的战斗中屡立奇功(其间也有两次调到外地作战)。
公元349年，羯赵皇帝石虎死后其子十余人互相残杀。公元350年正月，石闵宣布复姓冉闵，杀死羯赵皇帝石鉴，同时杀死石虎的38个孙子，尽灭石氏，一举灭掉了残暴不可一世的羯赵帝国。其后冉闵即皇帝位，年号永兴，国号大魏，史称冉魏。
永和五年(349年)，石虎死，石世即位。同年五月，石遵得到冉闵支持发动证变推翻石世。起初，石遵答应立冉闵为皇储，後来却立石衍为皇储，引发冉闵的不满。孟准等人劝石遵诛杀冉闵，石遵便与其兄石鉴及母亲郑樱桃商议，郑樱桃认为石遵之所以能够即位，冉闵有功劳，不可杀他。会後，石鉴将此事密报冉闵。冉闵遂挟持汉族将领李农和王基推翻并诛杀郑樱桃与石遵，改立石鉴。冉闵被任命为大将军，并掌控大拳。石鉴即位后,胡汉两族间的矛盾逐步走向激化,胡人不断掀起暴动和兵变。