明太祖朱元璋（1368—1398年在位）雄才大略，但又多疑，權力欲望極強，甚麼事都想自己操控。在長期戰爭中，明太祖首先意識到元代行省的權力太大，容易造成分裂局面，所以建國後沒多久，就把地方一級的許可權力分散，名字還沿用省，但與元代大不一樣。明初中央還仿照元代設中書省，中書省的丞相是一國行政最高長官，朱元璋很不喜歡有這麼一個比較集權的大官。初期任丞相的李善長、徐達等人與朱元璋矛盾還不大，到了胡惟庸當丞相時，由於他在中書省任職的時間長，大權獨攬，不少功臣都聚集到胡惟庸門下，令朱元璋十分不滿。洪武十三年（1380年），朱元璋以擅權枉法的罪名殺了胡惟庸，又趁此機會取消了中書省，並立下法度，以後不許再設丞相一職，中國宰相制度至此完全消亡。從本質上說，這是「皇權」與「相權」的一場鬥爭。

明代時「六部」直屬皇帝。吏、禮、兵、工四部，各按業務性質分設「四個司」。戶部和刑部按13個布政司轄區，各設13個司，分別掌管各分省，以及分管「兩直隸」等地相關事務。每部正副長官為尚書、侍郎，各司以郎中、員外郎負責工作。吏、戶、禮、工四部職掌與前代類似。兵部與五軍都督府分管軍政。遇重大案件，刑部要與都察院和大理寺共同處理，稱「三法司制度」。刑部審理，都察院糾察，大理寺複審，有時還會由其他官員會同「三法司」共同審核判案。另有一種由錦衣衞控制的特別刑庭「詔獄」，主要用於處置被皇帝認為有罪的大臣。「詔獄」殺人至慘，其審案司法，「三法司」一般無權過問。除「六部」外，中央機構還有「都察院」管監察，長官為都御史；「通政院」掌出納帝命、通達下情，並接受臣民申訴等，長官為通政使；「大理寺」複審大案，長官為卿等。這些機構加上六部，合稱「六部都通大」，長官合稱「九卿」。

由於缺少了宰相，皇帝一人難以應付局面，不得不另找輔佐，終於在永樂年間（1403—1424年）設立了內閣，入閣者稱「大學士」，他們的職務是「票擬」，即事先擬好皇帝御批的稿本，供皇帝參考。內閣實際上只是皇帝的秘書班子，不能參與政務。明中葉以後，大學士中主持閣務者稱「首輔」，其餘稱次輔、群輔。萬曆（1573—1619年）以後，內閣之權又多為宦官制約。明代以行酷刑著稱，一度出現「不敢做官」的現象。君主專制權力達到極致，即使是弄權的宦官，皇帝要收拾他們也極為容易，這一點與漢唐大不相同。

朱元璋不僅殺功臣宿將，他對貪官污吏也恨之入骨，於是採取了種種嚴酷的刑罰，有凌遲、梟首、稱竿、抽腸、挑筋、閹割等，甚至把貪官的皮剝下來，中間塞滿草，掛在衙門廳堂之上，叫做「剝皮實草」，以警告後任的官員。朱元璋殺人如麻，有些官員只好裝瘋扮傻，但朱元璋有很多特務，一旦刺探出官員是假扮瘋癲，腦袋就很可能要搬家了。朱元璋想要哪個人做官，要是拒絕，也有生命危險。所以官員整天提心吊膽，很多上朝官早晨出門之前，就和家人訣別，囑咐後事，要是竟能活着回來，就闔家慶賀，僥倖自己又多活了一天。

明代地方建制簡化為三級。除南北「兩直隸」外，全國設13個「承宣布政使司」。每個承宣布政使司設「布政使司」、「按察使司」和「都指揮使司」三個衙門，叫作「三司」。「布政使司」掌管民政和財政，設左右布政使各1員，屬官左右參政各1員，左右參議各1員。「提刑按察司」掌管刑法和監察，設按察使1員，副使2員，僉事則無限定人數；「都指揮使司」掌軍政，分別對五軍都督府和兵部負責，設都指揮使1員，同知2員，僉事4員。承宣布政使司下為府，設知府，知府下有同知、通判輔佐，還有推官管司法。府以下為縣，置知縣，副職有縣丞等。另有州，分兩等，一為「直隸州」，直隸於布政使司，與府平等；一為「散州」，隸屬於府，與縣平等。州設知州，屬官有同知等。省級行政單位，「三司」分立，互不統屬，在加強中央集權的同時，也暴露出事權不一、運轉不靈的弊端。因此從明中期起，不時派巡撫到各省協調工作，處理大事。另外，明中後期還向地方派駐掌管幾個省相關事務的總督，可以節制巡撫和地方三司。總督、巡撫雖然有實際行政之權，但終明一朝，仍然屬差遣性質，還沒有完全成為一級地方官員。除總督、巡撫外，還有經略、督師等朝廷臨時派出的官員到地方處理軍民事務，熊廷弼與袁崇煥分別任過遼東經略和督師。