日軍的基本單位是師團，它有多種編制。在抗戰爆發時，日軍有十七個常設師團是日軍的常備軍，番號依次爲近衛、一至二十（內欠十三、十五、十七、十八師團）。編制爲四單位制，即師團下轄二個旅團，旅團下轄二個步兵聯隊，步兵聯隊轄有三個步兵大隊，大隊下轄四個步兵中隊、一個機槍中隊（八挺重機槍）、一個大隊炮小隊（二門70ｍｍ步兵炮），步兵中隊轄三個步兵小隊，小隊轄一個機槍組（二挺輕機槍）、一個擲彈筒組（二個擲彈筒）和二個步槍組。師團還轄有一個炮兵聯隊、一個輜重聯隊、一個工兵聯隊、一個騎兵聯隊（四個騎兵中隊與一個機槍中隊）以及其他部隊。此時的師團分爲兩種，一是馱馬制，炮兵聯隊轄有四個大隊（三十六門75ｍｍ山炮與十二門75ｍｍ野炮），步兵聯隊轄有一個聯隊炮中隊（四門山炮）、一個步兵炮中隊（四門步兵炮），總編制爲28500人。一是挽馬制，炮兵聯隊有三十六門野炮與十二門20ｍｍ榴彈炮，步兵聯隊轄有一個聯隊炮中隊與一個速射炮中隊（37ｍｍ速射炮四門），總編制爲25000人。此外還有以下一些獨立的特種兵部隊騎兵旅團（轄二個騎兵聯隊與一個騎炮兵聯隊、一個裝甲車隊）、坦克聯隊、獨立工兵聯隊、獨立野炮聯隊（三十六門20ｍｍ榴彈炮與十二門75ｍｍ野炮）、獨立野戰重炮兵聯隊（二十四門50ｍｍ重榴彈炮）、野戰重炮兵聯隊（十六門00ｍｍ加農炮）、獨立重炮兵大隊（八門50ｍｍ加農炮）、迫擊炮大隊（中型迫擊炮三十六門）、獨立山炮兵聯隊、電訊聯隊、鐵道聯隊等等。
抗戰爆發後，日軍又重新組建了十三、十八兩個新編常設師團，又組建了一批特設師團。所謂的特設師團是指由常設師團的預備役人員所組成的部隊，其番號爲常設師團、聯隊的番號前加一百。其編制大體與常設師團相同，只是騎兵聯隊變爲騎兵大隊（二個騎兵中隊與一個機槍小隊），挽馬制師團的炮兵聯隊爲三十六門野炮與十二門山炮。特設的馱馬制師團人數爲28200人、挽馬製爲24400人。同時在做戰時日軍給各師團配屬特種兵及補充人員等，可使一個師團指揮的人馬達四萬人以上
在侵華戰爭中，由於作戰消耗，同時日軍感到四聯隊制師團行動不便，又搞出了三單位制師團與獨立混成旅團兩種編制。三單位制師團的編制爲師下轄一個步兵團，步兵團下轄三個步兵聯隊，聯隊下轄三個步兵大隊與一個步兵炮中隊（四門步兵炮）。步兵大隊無大隊炮小隊，炮兵聯隊爲二十四門山炮或野炮，騎兵聯隊改爲搜索聯隊，其他如輜重、工兵等後勤部隊也大爲減少，編制人數爲2800人。獨立混成旅團轄五個步兵大隊與一個炮兵隊、通訊隊、工兵隊、輜重隊等，總人數約5000人。步兵大隊轄三個步兵中隊與一個機槍中隊（四挺重機槍）、炮兵隊轄一個山炮中隊與二個野炮中隊。這兩種部隊都是主要做爲守備用途的，同時具有小規模的野戰能力。
到了武漢戰役結束之後、由於戰場的擴大與戰爭消耗，日軍越來越多將三單位制師團與獨立混成旅團投入了第一線。因此、日軍進行了編制上的調整，將三單位制師團的後勤部隊予以補充，使總人數達到了人。獨立混成旅團的步兵大隊改爲轄四個步兵中隊與一個機槍中隊，總人數達000-7000人。該編制僅限於一線部隊，守備部隊仍爲原編制。另外又開始將四單位制師團改爲三單位制。
太平洋戰爭爆發之後、日軍又編組了兩旅團制師團。師團下轄兩個步兵旅團，旅團轄四個步兵大隊、步兵大隊轄四個步兵中隊與一個機槍中隊（八挺重機槍）。師團無炮兵、僅直轄工兵隊、輜重隊與通訊隊，總人數爲980人。
到了一九四四年、日軍又將師團分爲甲乙丙三種（此時己無四單位制師團了）。甲種師團有兩類、一類爲原有的常設師團、總人數爲2.萬人，擁有三十六門75ｍｍ山炮或野炮。一類爲原有的特設師團與三單位制師團，總人數爲.8萬人。乙種師團也是三單位制師團、只是沒有炮兵聯隊與騎兵（搜索）聯隊，總人數爲.4萬人。丙種師團即兩旅團制師團。同時、日軍又出現了獨立警備隊與獨立步兵旅團兩種編制。獨立步兵旅團的編制與兩旅團制師團所轄的步兵旅團相同，人數爲500人。獨立警備隊下轄六個步兵大隊、大隊下轄三個步兵中隊與一個機槍中隊（四挺重機槍），無特種兵（在此處、特種兵指步兵以外的其他兵種），總人數爲4900人。
一九四五年、日軍對兵力編制做了最後一次調整、大致有以下幾點、、給丙種師團的步兵大隊增編一個步兵炮中隊。2、將獨立混成旅團的步兵大隊改爲轄有四個步兵中隊、一個機槍中隊與一個步兵炮中隊，人數達500人的大編制。旅團炮兵則轄有六門野炮與十二門山炮，同時其工兵、輜重部隊也予以擴編，使其總人數達8000人以上。3、編組了丁種師團，其編制大體與丙種師團同，但無特種兵。其步兵大隊的機槍中隊只有四挺重機槍，步兵小隊僅有一挺輕機槍與一個擲彈筒。
以上就是抗戰時期日軍編制的全部情況了。