在中国历史上，宰相的权力被描述为一人之下，万人之上，这说明宰相的权力是很大的。
那么，在明代以前，宰相制为何一直存在着呢?
原来，中国历史的发展趋势，在中央与地方上的关系上，是不断扩大中央的权力，在中央政权内部，是不断强化皇上的权力。
这是中华民族走向统一和稳定所必需的。
在元代以前，中国历史的状态是有分有合，分分合合，地方势力始终未被中央政权整合起来，这便需要在中央政权内部联合起来，共同对付地方势力。
而在元代以后，强有力的中央政权终于战胜地方割据势力，实现了中央集权，使地方势力无力对抗中央政权，即便是爆发了大规模的农民起义，也很快就会结束战乱，走向统一，而不会像元代以前长期处于割据状态，因而，中央政府能够节省出足够的时间和精力处理中央内部的事务。
到了明代，在中央内部强化皇权的任务提上了日程，朱元璋运用强力手段，开始着手强化皇权。
需要指出的是，加强中央集权与强化皇权在历史从未间断过，并且是同时进行的，只是在不同的历史阶段侧重点不同，到了明代，主要侧重于强化皇权。
作为强化皇权的重要步骤之一，就是消弱甚至消灭相权，而只有废除宰相制，才能彻底消灭相权。
明初连续出任了四位宰相，朱元璋对他们都不满意，但是一直没找到时机搞掉存在已久的宰相制，到了第四位宰相胡惟庸，终于让朱元璋抓住把柄。
胡惟庸过于独断，又结党敛财，有人告他谋反，朱元璋趁机逮捕了胡惟庸和一大批官员，从此不再设宰相，并把原来宰相的权力一分为六，由六部分管，直接效命于皇上。
至此，朱元璋废除了中国历史上的宰相制，中国历史的专制时代，自明代始，一直延续到清代。