西晉的地方政府分爲州（省）、郡（市）、縣、鄉四級。西晉剛剛建立時設立的州有：司隸（洛陽附近）、幽州（河北北部和京津）、冀州（河北南部）、兗州（黃河下游南岸地區）、幷州（山西）、豫州（河南）、徐州（江蘇北部）、雍州（陝西南部）、涼州（甘肅和寧夏）、益州（四川南部、貴州）、梁州（漢中、四川北部、重慶）、荊州（湖北）、揚州（淮河地區），以後，又先後設立了秦州（陝西、四川、甘肅三省交界）、寧州（雲南）、平州（遼寧和朝鮮北部）、廣州（廣東、廣西）、交州（越南北部）。除了首都所在省的省長叫司隸校尉以外，所有的省長都叫做刺史，官品是第四品，在一般情況下，他們同時是這個省的地方軍和司法、行政的最高長官，而西晉後來又出現過不帶兵、只管內政的刺史，俗稱“單車刺史”，官品是第五品。
西晉的郡有兩種，一種是中央政府通過省來管轄的普通市，一種就是親王們的封地，也就是封國。普通市除了首都洛陽市長叫河南尹（引）以外，其它的一律叫太守。封國相當於市長角色的官職叫內史，他是封國親王的最高行政長官，實際上在西晉建立初期，他獨立負責封國的司法、行政和地方軍，幾乎完全聽命於中央政府，基本不鳥親王。俸祿兩千石的太守、內史，官品都是第五品。
西晉的縣有兩種，大縣的長官叫縣令，小縣的長官叫縣長，按照《魏官品》規定，俸祿一千石的縣令，官品是第六品，俸祿六百石的縣令，官品是第七品，而俸祿只有四百、三百石的縣長，官品也只有第八品了。如果一個縣的人口超過五百戶，就要再設置鄉了，三千戶以上的縣設兩個鄉，五千戶以上的設三個鄉，一萬戶以上的設四個鄉，鄉里的最高長官叫吝夫。
中國古代的官員制度非常特殊，嚴格的說來，一直都有兩種體系存在，一種是官，一種是吏，二者的概念絕對有天壤之別。從西漢一直到西晉，上至三公九卿、將軍大將、下至縣長，都是官。古代很多官除了有一些正式的官作爲手下以外，還有一些自己聘請的僱員，這些人就叫做吏，因爲從屬於官，他們也被叫做屬官，或者叫掾屬。
西晉時代常見的吏，有以下幾種:長史（首席副官）、功曹（人事部長）、司馬（軍事總監）、從事中郎（參謀長）、主簿（秘書長）、別駕（行政總監）、文學（文化顧問）、帳下督（作戰總監）、都護（大營指揮官）、參軍（參謀）、掾（秘書）。其中，司馬、從事中郎、帳下督、都護、參軍這類吏是武官吏，只有當他們的長官帶兵的時候才設置。
在整個西漢東漢，吏都是官的私人僱員，官想僱誰就僱誰，除非是特殊情況，用不着朝廷批准。到了曹操時代，所有的吏才需要通過吏部批准，但基本都是走個形式，只要官願意，他的請求一般不會被拒絕。在當時的人們認爲，吏完全是官的私人物品，和官有君臣之義，官有權開除吏，也有權懲罰甚至是體罰他，而吏如果逃跑、反抗，就會被人們認爲是像大臣反對皇帝那樣大逆不道；而官一旦選擇某些人當吏，也就必須盡心盡力照顧他，保證他有一個好前途，等到官離任的時候，有的吏甚至會追隨官到新的崗位上任。所以說，那個時代官和吏的關係，不僅僅是現代官員之間的上下級關係，他們更近一步，官和吏一旦結合，甚至會一輩子成爲一個班底，這在當時，絕對不會被認爲是結黨營私，相反，人們還會讚揚這種官慈吏孝的行爲。
從西漢到西晉，中央一級絕大多數的吏的工資是由朝廷發的，我們所說的中央一級，當然也包括中央軍，而地方官府和地方軍的吏的工資，一般就由他們的僱主官員發放了，朝廷是不管的。值得一提的是，東漢末年的軍閥混戰，導致生產遭到嚴重破壞，貨幣的流動幾乎停止，一直到了西晉，市場上都是用糧食換東西，官和吏的例行工資，也都是用糧食、布、綢緞這些東西來支付，而不是用黃金、白銀或者銅錢。
如果我們仔細研究史書就會發現，從西漢到西晉幾百年的時間裡，正是這些不起眼的吏，負責了他們的僱主——官的絕大多數工作，他們纔是一個帝國真正的幹活兒的人，他們纔是真正的幕後英雄。尤其是地方上，也就是州郡縣裡，除了刺史、太守、縣長和一些駐軍長官以外，其他的人基本全是吏。
隨着兩漢時代名門望族以及地方大族的崛起，在各個地方，就逐漸形成了這麼一種特殊的現象：當地的吏換來換去，總是那幾大家族的人，不管這個地方的官怎麼換，這幾大家族一直都能佔據着吏的位置，可以絕對說是鐵打的吏、流水的官，到了最後，朝廷、地方官和地方大族幾乎達成了一種共識：在地方上要選吏，就要選這幾個固定的地方大族。在這些達成共識的人中，尤其是地方大族，更是認爲他們被選爲當地的吏是天經地義的，到了西晉，這種現象更加嚴重，出身寒微的人想要在本地出頭露面，都難上加難。
其實說一千道一萬，西晉王朝最大的官仍然是皇帝，所有的官職都是圍繞皇帝來設立的，其它形形色色的官職在絕大多數情況下也都是因人而設的。可以說，西晉的官職是十分混亂的，官員制度經常被個人所破壞，真正有沒有權力，不能只看官職，而是要在實際情況下，才能看出官員們的實際地位，這就是封建專制制度的特色。
但是，我們不能忘了一點，今天科學的政治制度，正是從將近兩千年之前的西晉、甚至於更早的時代演變而來的，所以我們要站在那個年代去理解那個年代，不要因此而小看古人，批評這種不科學的制度。忘記了歷史，就忘記了現在。