明太祖朱元璋（1368—1398年在位）雄才大略，但又多疑，权力欲望极强，什么事都想自己操控。在长期战争中，明太祖首先意识到元代行省的权力太大，容易造成分裂局面，所以建国后没多久，就把地方一级的许可权力分散，名字还沿用省，但与元代大不一样。明初中央还仿照元代设中书省，中书省的丞相是一国行政最高长官，朱元璋很不喜欢有这么一个比较集权的大官。初期任丞相的李善长、徐达等人与朱元璋矛盾还不大，到了胡惟庸当丞相时，由于他在中书省任职的时间长，大权独揽，不少功臣都聚集到胡惟庸门下，令朱元璋十分不满。洪武十三年（1380年），朱元璋以擅权枉法的罪名杀了胡惟庸，又趁此机会取消了中书省，并立下法度，以后不许再设丞相一职，中国宰相制度至此完全消亡。从本质上说，这是“皇权”与“相权”的一场斗争。

明代时“六部”直属皇帝。吏、礼、兵、工四部，各按业务性质分设“四个司”。户部和刑部按13个布政司辖区，各设13个司，分别掌管各分省，以及分管“两直隶”等地相关事务。每部正副长官为尚书、侍郎，各司以郎中、员外郎负责工作。吏、户、礼、工四部职掌与前代类似。兵部与五军都督府分管军政。遇重大案件，刑部要与都察院和大理寺共同处理，称“三法司制度”。刑部审理，都察院纠察，大理寺复审，有时还会由其他官员会同“三法司”共同审核判案。另有一种由锦衣卫控制的特别刑庭“诏狱”，主要用于处置被皇帝认为有罪的大臣。“诏狱”杀人至惨，其审案司法，“三法司”一般无权过问。除“六部”外，中央机构还有“都察院”管监察，长官为都御史；“通政院”掌出纳帝命、通达下情，并接受臣民申诉等，长官为通政使；“大理寺”复审大案，长官为卿等。这些机构加上六部，合称“六部都通大”，长官合称“九卿”。

由于缺少了宰相，皇帝一人难以应付局面，不得不另找辅佐，终于在永乐年间（1403—1424年）设立了内阁，入阁者称“大学士”，他们的职务是“票拟”，即事先拟好皇帝御批的稿本，供皇帝参考。内阁实际上只是皇帝的秘书班子，不能参与政务。明中叶以后，大学士中主持阁务者称“首辅”，其余称次辅、群辅。万历（1573—1619年）以后，内阁之权又多为宦官制约。明代以行酷刑著称，一度出现“不敢做官”的现象。君主专制权力达到极致，即使是弄权的宦官，皇帝要收拾他们也极为容易，这一点与汉唐大不相同。

朱元璋不仅杀功臣宿将，他对贪官污吏也恨之入骨，于是采取了种种严酷的刑罚，有凌迟、枭首、称竿、抽肠、挑筋、阉割等，甚至把贪官的皮剥下来，中间塞满草，挂在衙门厅堂之上，叫做“剥皮实草”，以警告后任的官员。朱元璋杀人如麻，有些官员只好装疯扮傻，但朱元璋有很多特务，一旦刺探出官员是假扮疯癫，脑袋就很可能要搬家了。朱元璋想要哪个人做官，要是拒绝，也有生命危险。所以官员整天提心吊胆，很多上朝官早晨出门之前，就和家人诀别，嘱咐后事，要是竟能活着回来，就阖家庆贺，侥幸自己又多活了一天。

明代地方建制简化为三级。除南北“两直隶”外，全国设13个“承宣布政使司”。每个承宣布政使司设“布政使司”、“按察使司”和“都指挥使司”三个衙门，叫作“三司”。“布政使司”掌管民政和财政，设左右布政使各1员，属官左右参政各1员，左右参议各1员。“提刑按察司”掌管刑法和监察，设按察使1员，副使2员，佥事则无限定人数；“都指挥使司”掌军政，分别对五军都督府和兵部负责，设都指挥使1员，同知2员，佥事4员。承宣布政使司下为府，设知府，知府下有同知、通判辅佐，还有推官管司法。府以下为县，置知县，副职有县丞等。另有州，分两等，一为“直隶州”，直隶于布政使司，与府平等；一为“散州”，隶属于府，与县平等。州设知州，属官有同知等。省级行政单位，“三司”分立，互不统属，在加强中央集权的同时，也暴露出事权不一、运转不灵的弊端。因此从明中期起，不时派巡抚到各省协调工作，处理大事。另外，明中后期还向地方派驻掌管几个省相关事务的总督，可以节制巡抚和地方三司。总督、巡抚虽然有实际行政之权，但终明一朝，仍然属差遣性质，还没有完全成为一级地方官员。除总督、巡抚外，还有经略、督师等朝廷临时派出的官员到地方处理军民事务，熊廷弼与袁崇焕分别任过辽东经略和督师。