第二年正月，塗節告發丞相謀反之事。被貶為中書省吏的御史中丞商皓，也告發胡惟庸的陰謀。朱元璋下令廷臣追查，迅速以「枉法誣賢」、「蠹害政治」等罪名，將胡惟庸處死。廷臣說：「塗節本來也參與陰謀，見事不成才檢舉告發，不可不殺。」於是朱元璋在誅殺胡惟庸的同時，也順便殺了陳寧和塗節。
在處死胡惟庸之後，朱元璋宣布自此撤銷相位和中書省，並且不允許子孫以任何藉口重設。
雖然大權在握，朱元璋對丞相始終懷有提防之心。除了李善長被早早安排退休之外，汪廣洋也曾幾度起落，直到被殺。等到胡惟庸任丞相時，朱元璋算是明白過來：換人不如改制。於是，他耐心等著胡惟庸出錯，在除掉丞相的同時，也藉機消滅了延續千年的丞相制度。
朱元璋撤銷相位，直接解決了明朝初期皇權和相權的衝突問題，使得皇權變得更加穩固，極大地加強了君主專制的中央集權。朱元璋此後親自處理各項政務，雖說有些辛苦，卻是樂此不疲。六部直接聽命於皇帝，各部尚書的權力四分五裂，被切割和分解。終明一朝，中書省再沒機會設立，最多只是內閣這樣的輔政機構俯首帖耳地為皇權服務，再無掀起風浪的機會。即便後來內閣閣臣的權力上升，超越六部尚書，但始終無法和明初的丞相相提並論。
從幕後走到臺前
在除掉胡丞相之後，朱元璋還做了一件大事：宣布成立錦衣衛。因為他看到了這種情報偵察機構對於剷除異己、懲治犯罪的作用。
朱元璋的情偵人員在與胡惟庸一番較量之後，取得了豐碩的戰果，而且鍛鍊了隊伍。情偵系統不僅隊伍壯大了，地位也提升了，獲得了朱元璋的極大信任，已經具備形成獨立力量的條件。為了維護專制集權的需要，他們迫切需要從幕後走到臺前，承擔起更為重要的任務。
洪武十五年（一三八二），朱元璋正式宣布罷黜儀鸞司，改置錦衣衛。也有學者認為，錦衣衛作為特務機構早就存在，至於洪武十五年改置的錦衣衛則是合併了儀鸞司和錦衣衛，其名稱也可以叫「錦衣衛親軍指揮使司」。總之，特務機構從此公開化，取得了正式的「營業執照」，大大小小的特務也都取得了從業資格。洪武十八年（一三八五），朱元璋再次徵召一萬四千名壯漢充實到錦衣衛各個千戶所，使得這支由他直接統領的特別偵察隊人數將近兩萬。
在朱元璋的設計中，錦衣衛設指揮使一人，正三品；同知二人，從三品。錦衣衛下設經歷司，掌管公文往來與案宗，名義上是負責公文檔案之類，其實主要是掌管由皇帝下達的案件審判的詔旨。換句話說，錦衣衛是由皇帝直接掌握，別人不得染指。這種詔旨，或稱詔令，是專屬錦衣衛的用以執行特殊偵察和緝捕任務的指令，也可以認為是皇帝所賦予的特殊權力。因此，所謂「詔令」，既是錦衣衛的護身符，也是錦衣衛特殊身分的證明。詔令和錦衣衛一起，構成了皇權的特殊象徵。
