350年，石鉴欲杀冉闵，事败後反为冉闵和李农所杀。冉闵杀石鉴之前，发布了“杀胡令”和“讨胡檄文”致书各地，从面引爆了汉族人民积压了近半个世纪的国仇家恨,点燃了汉族人民的复仇反抗怒火,冉闵宣布：“内外六夷，敢称兵杖者斩之!”于是汉族人民对胡人进行空前规模的民族复仇，无贵贱男女少长皆斩之，史载当时的全国各地方的汉族人民“所在承闵书诛之”，于时高鼻多须，头发略有发黄者亦被杀，前后约有二十万人被杀。其後建立魏国，依然建都于邺城(今河北邯郸市临漳县（市）城西南20公里邺城遗址)，改年号永兴。冉闵遣使临江告东晋：“胡逆乱中原，今已诛之。若能共讨者，可遣军来也。”由于冉闵已称帝，无法得到东晋支持。
冉闵的残酷屠杀引来胡人猛烈的反扑。350年，石虎庶子石祗于襄国(今河北邢台)称帝，胡人将人纷纷响应。350年1月,后赵汝阴王琨及张举、王朗率军七万伐冉闵，冉闵率骑兵千馀与战于城北,大破之,石琨等大败而去;350年6月,六月，石琨又率大军10万进据邯郸，后赵镇南将军刘国自繁阳会之,冉闵又率军大破之，死者万馀人,刘国还繁阳;八月,后赵张贺度、段勤、刘国、靳豚集中十余万主力于昌城，将攻冉闵,冉闵率军反击，战于苍亭，后赵军全军覆灭;351年，石祗联合鲜卑、羌人夹击冉闵，冉闵因屡胜而轻敌,导致大败，部众大量死亡。此战后，冉闵所据的徐州、豫州、兖州和洛阳归降东晋，东晋势力于是重返中国北方。冉闵继续与胡人攻战。期间冉闵诛杀齐王李农及其三子。
351年，石祗部下刘显在阳平之战中为冉闵击败,被迫投降冉闵，并回军杀死石祗，从而后赵灭亡。不久刘显又背叛冉闵,自称皇帝。
352年正月,冉闵率领8000骑兵攻克襄国,杀刘显,至此后赵残余势力基本被消灭。但前燕军攻势日急,前燕慕容恪率10万骑兵进攻冉闵,追至廉台(今河北石家庄东部无极县（市）东北),起初冉闵出击，十战十胜。后来陷入鲜卑骑兵重围，冉闵突围东走二十馀里，坐骑朱龙突然死亡。冉闵於是被赶上的前燕兵所俘。前燕大军随即进围邺城，邺城守军艰苦抵抗鲜卑军达100多天，粮尽援绝，人相食，八月邺城陷落，冉魏灭亡。冉闵被送於蓟城(今天津市蓟县（市）)，前燕国王慕容俊企图乘机嘲笑冉闵，道：“你只有奴仆下人的才能，凭什么敢妄自称天子?”冉闵大怒道：“天下大乱，尔曹夷狄禽兽之类犹称帝，况我中土英雄，何为不得称帝邪!”，慕容俊恼羞成怒，令人鞭之三百，“斩于遏陉山，山左右七里草木悉枯，蝗虫大起，五月不雨，至于十二月。俊遣使者祀之，谥曰武悼天王，其日大雪。是岁永和八年也。”(肆行劳祀曰”悼“;年中早夭曰“悼”;恐惧从处曰“悼”，这里的“悼”，意指“年中早夭”，表示同情、悼念，“武”为美谥，意为武勇过人，演义