日军的一个师团，最初完全仿制德国一个师的编制，约1.8万人。不过后来随着战事的变化，作了多次改动，有的扩大，有的缩小，分为很多等级。
抗战中期，随着正面和敌后两个战场的展开，日军为适应不同战斗规模的需要，把师团分为甲、乙、丙、丁四种等级：
（1）甲种师团：又称挽马师团，辖2旅团（每旅团2个步兵联队），工、骑、炮、镏各一联队，共8个联队，加上一师团部、两旅团部的非战斗人员共28200人。
（2）乙种师团：又称驮马师团，由于后期马匹不足，在甲种师团的标准上压缩了骑兵联队，改为大队（个别不设骑兵）。辖2旅团（每旅团2个步兵联队），工、炮、镏各一联队，共7个联队，加上一师团部、两旅团部的非战斗人员共24400人。
（3）丙种师团：由混成旅团扩编，辖3个步兵联队，工、炮各一联队，一般有5个联队，加上师团部的非战斗人员约15500人。
（4）丁种师团：也是由混成旅团扩编，只辖3个步兵联队，其他兵种只有大队或中队编制，约11000人。由于机动灵活，主要用于扫荡八路军的华北根据地。
（5）独立混成旅团：与师团一样是独立的战略单位，一般有2-3个步兵联队，其他兵种的人数比丁种师团还少，大约有6000-8000人。承担辅助的战略任务。 1937年以前，日本全国只有20个师团，1-20师团的是老部队，后来多数成为甲种师团，每师团番-号的数字加100，即101-120的师团分别是他们的预备役师团，编制与老师团完全相同，不过由于后期马匹不足，多数建成乙种师团，也是战斗力很强的部队。
21-100之间的师团是抗战之后陆续增加的，有的由独立混成旅团扩编，有的是新兵，属乙或丙或丁种，没有一定的规律。