朱元璋這樣費盡苦心地更張制度，反覆斟酌定都問題，無非是因爲天下得之不易，希望能世代固守，傳之久遠。因此，他不會允許任何人對其統治和權力構成威脅，甚至那些被他認爲會對其子孫的統治構成威脅的人，他都會毫不手軟，必欲除之而後快。
屢興大獄：濫殺功臣和剛猛治國清代史學家趙翼說過這樣的話："獨至明祖，藉諸功臣以取天下，及天下既定，即盡取天下之人而殺之，其殘忍實千古所未有。蓋雄猜好殺，本其天性。"趙翼的這種評價雖有過激之處，卻指出了朱元璋濫殺的事實。朱元璋做了皇帝后，興起了幾個大案，殺了許多人。
胡藍案。洪武十三年（1380）正月，御史中丞塗節、商嵩告發胡惟庸南通倭寇北接舊元，意欲謀反。朱元璋命羽林軍將胡抓捕，審問得實，磔於市，牽連被殺達3萬人。洪武二十三年（1390），有人告發李善長交通胡惟庸情狀，朱元璋又將當時已經77歲的李善長賜死，並誅殺其家。吉安侯陸仲亨、延安侯唐勝宗、靖寧侯葉升因牽連於此案亦被殺。
洪武二十六年（1393）正月，又興藍玉案。藍玉以謀逆罪被殺，連坐被誅殺者達15萬人。有人認爲藍玉案與燕王朱棣有著關聯。藍玉是太子妃舅父，因極力維護太子朱標的儲君地位，與早已覬覦皇位的燕王交惡。燕王爲竊取儲君之位，伺機在太祖面前挑唆，致使朱元璋在猜疑的心態下製造了藍玉黨案。
胡藍案使得大明的開國功臣被屠戮殆盡。
朱元璋和功臣的關係有一個逐漸變化的過程。洪武三年（1370），朱元璋封李善長、徐達、常茂、李文忠、馮勝、鄧愈等6人爲公爵，另外28人爲侯爵，並賜給大量土地，同時頒有鐵券，如果本人或子孫犯罪，可以免死數次。朱元璋還使皇室與功臣聯姻，如郭英之妹爲朱元璋寧妃，馮勝、藍玉、徐達之女皆爲王妃。李善長、傅友德、胡海、張龍等勳貴之子皆尚公主，與他結成了兒女親家。朱元璋是希望通過這些方式確保功臣忠心，鞏固自己的皇位，使大明江山傳祚無窮。
然而沒過幾年，這段短暫而甜美的政治婚姻就宣告結束。洪武五年（1372），朱元璋頒佈《洪武青花執壺鐵榜文》，對文武功臣嚴加戒飭，嚴厲指責他們違法亂紀的行徑。這可以看作是朱元璋對驕傲放縱的功臣的一種警告，也是他們關係緊張的一個信號。洪武八年（1375），朱元璋製作《資世通訓》，洪武十三年（1380）製作《臣戒錄》，警告大臣們如果對天子不忠、逾越禮制，將受到嚴懲。這些功臣們也許沒有意識到，朱元璋已經將屠刀舉起。
廖永忠是最早被殺的功臣。廖永忠在很多戰鬥中立有功勳，特別是在鄱陽湖之戰中殊死戰鬥，建國後被封爲德慶侯。洪武八年（1375），朱元璋以其私自穿著繡有龍鳳圖案的衣服逾製爲由將其殺死。其實這只是藉口，真正導致廖永忠丟失性命的原因在於一個政治隱秘，當年正是他執行了朱元璋謀殺小明王韓林兒的任務。在他之後，朱亮祖、李文忠、徐達先後死於非命。
通常而言，開國皇帝與功臣之間產生矛盾不乏先例，關鍵是皇帝如何化解這種矛盾。漢代的劉邦心存猜忌，大殺功臣；唐太宗李世民氣量宏大，處理較爲妥當；宋太祖趙匡胤則採取了另外一種模式，即"杯酒釋兵權"，和平解除功臣的兵權。朱元璋的情況與劉邦有些相似，卻又不同。幫助朱元璋打天下的功臣，多是他的同鄉，甚至湯和與周德興還是他的同村，是幼時遊戲的玩伴。正是這些人在戰鬥中出生入死，東征西討，爲朱元璋奪得天下。待到朱元璋登基成爲皇帝后，他們之間卻有了君臣的名分，凡事不可逾制。這些功臣心裡也許難以及時適應這種改變，而朱元璋卻是一個多有顧忌的君主，矛盾於是不可化解。朱元璋之所以大開殺戒，史家通常認爲是他爲繼位者掃清障礙，永保大明江山。據史書記載，太子朱標對他大開殺戒不以爲然，曾數次勸諫。一次，朱元璋命人找來一根長滿尖刺的荊棘放到朱標面前，讓太子朱標去拿，朱標畏懼不敢伸手。於是朱元璋就對自己大殺文武功臣進行解釋："汝弗能執與，使我潤琢以遺汝，豈不美哉？今所誅者皆天下之險人也，除以燕汝，福莫大焉！"意孝陵神功聖德碑思就是說，我殺人就是像去掉荊棘上的尖刺一樣，這樣你將來纔可以安坐天下?？墒?，他在爲子孫掃除障礙的同時，也埋下了禍根。後來，他的孫子建文帝銳意削藩，燕王朱棣立即起兵"靖難"，奪取天下。假使當時藍玉等能征慣戰的開國功臣還在，朱棣未必敢興兵，建文帝也不用"遜國"了。
朱元璋不僅屠戮功臣，也注意嚴肅整頓吏治。這與他來自底層，看到元朝因吏治導致滅亡的教訓有關。他在明初實行以猛治國的政策，認爲亂世須用重典，法外用刑的情況很嚴重，遭到懲處的官吏很多。
空印案。按照規定，每年各布政使司和各府、州、縣都要派遣官吏到戶部報告地方財務情況，戶部審覈清楚纔算了結。戶部的審覈很嚴格，錢穀數字如稍有不合就得重新造冊填報。重新造冊不算困難，主要是賬冊上要有地方衙門的印信才行，而從中央到地方重新蓋印往返要很長時間，因此地方官員習慣帶些備用的空白文冊，一旦遇到駁回的情況，只須重新填寫而不必往返了。這種做法已經成爲一種慣例，戶部也很清楚，照例默認，沒有人去追究。再說，這種文冊蓋的是騎縫印，也不能用作他圖，沒有什麼危害。洪武十五年（1382），朱元璋發現這種情況，非常震怒，認爲是故意欺騙他，下令將各地衙門長官主印的一律處死，佐貳官杖一百充軍邊地。很多人蒙冤受死，其中就包括方孝孺的父親方克勤，他是當時人公認的好官。
郭桓案。洪武十八年（1385），御史餘敏等人告發戶部侍郎郭桓等人串通舞弊，吞盜官糧。朱元璋十分重視，將他們全部逮捕。禮部尚書趙瑁、刑部尚書王惠迪、兵部侍郎王志等人亦牽連在內。最後追贓糧700萬石，郭桓等數百人被處死，各地布政使官員入獄被殺者又有數洪武刻本《御製大誥》萬人。追贓牽連到全國各地的地主，因此破產者不計其數。
不難發現，朱元璋所處置的大多數都是官吏，而對小民則很信任，甚至親自接見糧長，被賞識的馬上授予官職。這又體現出了朱元璋自身的小農情結。
從洪武十八年（1385）開始，朱元璋親自制定、頒佈《大誥》、《大誥續編》、《大誥三編》和《大誥武臣》，其內容主要是懲治貪官污吏、地方豪強以及侵擾百姓等問題。四編大誥共236條，其中懲治貪官污吏的竟達150條之多，而且極其嚴厲，共羅列有凌遲、梟首太祖諡冊、夷族等懲罰，其嚴酷程度超過了歷史上任何一個封建王朝。由於朱元璋採取的一系列懲貪倡廉的有力措施，明初的吏治改變了元末"賂遺權要"、"蠹政厲民"的風氣，日趨清明。他實行"以猛治國"的政策，雖然殺戮過重，但確實整飭了吏治，同時強化了中央集權，從而爲明朝前期的繁榮鋪平了道路。
明太祖朱元璋是歷史上了不起的皇帝，他由一個放牛娃、寺廟裡的小沙彌，經過十幾年的戎馬生涯，一舉掃蕩羣雄、推翻元朝，開創了大明基業。他深知，創業難，守業亦難，因此，明東陵（朱標墓）十分重視對接班人的培養。他登上皇位的同時，就冊立了長子朱標爲皇太子，並延請名儒宋濂等人爲太子之師，希望能將朱標培養成爲一代明主。由此可見，朱元璋其實也是一位十分有遠見之人。