明太祖开国之初，为了集中皇权，取消了宰相，以六部分担行政权。又改革了兵制，从制度上避免了高级军事长官以兵权威胁皇权的可能。

　　首先，明太祖仿宋代设枢密院，又设立统军元帅府，不久“罢枢密院，改置大都督府”，之后又罢统军元帅府，最后确立为五军都督府。

　　《明史职官志》介绍五军都督府为：中军、左军、右军、前军、后军五都督府，每府左、右都督，正一品都督同知，从一品都督佥事，正二品，恩功寄禄，无定员。其属，经历司，经历，从五品都事，从七品各一人。

　　都督府的职责是掌军旅之事，各领其都司、卫所。有明一代，都督府基本没有起到作用。

　　都督成了空头官衔后，统兵官员以“总兵官、副总兵、参将、游击将军、守备、把总”的名义来领兵，“无品级，无定员”。在明末增置繁多。

　　都指挥使司为明代地区军事总机构，长官有都指挥使、都指挥同知、都指挥佥事，行都指挥使司，设官与都指挥使司同。《明史职官志》提到：“都司掌一方之军政，各率其卫所以隶于五府，而听于兵部。”

　　明代是以卫所为基本军事单位。外卫皆统于都司及行都司。卫以下为千户所，千户所又辖百户所。《历代职官沿革史》说：凡卫所皆隶于都司，而都司又分隶于五军都督府。自卫所以下，其官兵多世袭，这是明代特殊制度之一。