在此期间，中书省都事李彬因受人贿赂被劾。李彬是左丞相李善长的部下，且平时二人的关系十分亲密。明代尚左，左丞相是中书省最高官员，其地位在刘基之上。李善长请求缓一缓再对李彬治罪，但刘基坚执不许，并立即派人将李彬的罪过报告朱元璋，朱元璋同意刘基对李彬的定罪。当时正赶上天气大旱，刘基在祈雨时将李彬斩于祭坛下。因为这件事，刘基与李善长之间便产生了隔阂。等到朱元璋从汴梁回来后，不少人在朱元璋面前攻击刘基。尤其令朱元璋生气的是刘基居然在祭坛下杀人，认为是大不敬，为此对刘基责备一通。刘基深知朱元璋的为人，动不动就杀人，自己受到许多人的攻击，又受到朱元璋的斥责，说不定哪一天自己就会人头落地，因而就想及早隐退。不久，他的妻子死去，刘基遂告假回乡。
刘基本来想远离政治旋涡中心，在家乡优游晚年。但是。在刘基回乡后，朝廷中连连出事，北边的蒙元残余势力不断内犯，给新建立的明王朝造成很大的威胁。朱元璋对身边的其他谋士也不满意，于是就想到了刘基。朱元璋遂亲自写了一封手书，召刘基赴京。在明初，如果叫某人出来做官，这个人却不出来，也会被杀头。贵溪儒士夏伯启叔侄二人为了不当官，故意截去两个手指。此事被朱元璋知道后，立刻将二人处死。他为此还制定了一条法律：“士不为君用者，诛。”因此，刘基如果坚辞不出，也会大祸临头。
无可奈何，刘基只得入京。朱元璋见到刘基后十分高兴，对他“赐赉甚厚”，并追赠刘基的祖父、父亲都为永嘉郡公。对刘基本人，朱元璋数次要为他提高爵位，但刘基皆坚辞不受。许多人以官职越高越感到荣耀，刘基则不然，他认为在那种时候官职越高越危险。后来的实践证明，那些贪图禄位的人大都被朱元璋一批又一批地杀掉。在这一点上，刘基表现出了超人的高明。
有一次，朱元璋因为某一件事训斥李善长，想对他严加治罪。刘基却劝道：“李善长是勋旧老臣，能协调各个将领之间的关系，不可因小过而废大才。”朱元璋感到很吃惊，便对刘基说：“李善长多次说你的坏话，想加害于你，你怎么还为他辩解呢？我准备罢免他，由你继为丞相。”刘基赶快叩头说道：“这就像换梁柱一样，必须要用大木。如果要用细木去当梁柱，大厦马上就会倾倒。”这件事后来传到李善长耳中，令李善长对刘基十分感激，二人的关系也重归于好。这件事也为刘基赢得了好名声，认为刘基能顾全大局，不计个人私怨，宽宏大度。
后来朱元璋罢免了李善长的丞相之职，打算用杨宪来接替李善长，问刘基是否可行。杨宪平时和刘基的私人关系十分密切，按照人之常情，刘基一定会支持这样做。另外，有杨宪这么一个朋友做丞相，刘基的日子也会好过得多。但出人意外的是，刘基不支持这样做。他对朱元璋说：“杨宪这个人有丞相之才，无丞相之器。当丞相的人应当持心如水，以义理为处理一切事情的准则，自己不应有任何私心，而杨宪却做不到这一点。”朱元璋听刘基这么说，也大感意外。这件事使朱元璋对刘基有了更深一层的认识，更加感到刘基忠心无二，一切都出于公心。
朱元璋又问刘基：“让汪广洋当丞相如何？”刘基回答说：“此人的偏狭浅薄比杨宪更有过之。”朱元璋又问胡惟庸如何，刘基说：“这就像找一匹驾车的马，你总不希望他把车给你掀翻！”朱元璋沉吟了片刻，很诚恳地对刘基说：“给我当丞相，实在没有人能超过先生。”刘基急忙推辞：“臣嫉恶太甚，易得罪人，而且臣喜欢清静，受不了繁琐事务的打扰。我要当丞相，一定会辜负皇上的厚爱。天下何患找不到有才之士，望皇上细心去找罢。”
后来，果不出刘基所料，这三个人有两人当了丞相，但都未得善终。杨宪身材高大，相貌出众，通经史，有辩才，但心胸狭小，凡是不利于自己的人，就千方百计地予以排挤，许多投机钻营的人以他为靠山。洪武三年，他只当了几个月的左丞，便被人揭发出许多奸贪之事，被朱元璋下令处死。汪广洋先后两次出任右丞相，但只是禄禄守位，遇事不置可否。他和胡惟庸有许多奸邪之事，但也不予揭发。洪武十二年，汪广洋被贬谪海南，半道上又接到朱元璋训斥他的敕书，遂自缢而死。第二年，丞相胡惟庸即以谋反被诛。这正如刘基所说的那样，胡惟庸这匹驾车的马差点把朱元璋的大车给掀翻。
朱元璋于洪武三年大封功臣，授刘基为“开国翊运守正文臣、资善大夫、上护军，封诚意伯”。在明初诸臣中，刘基的爵位算是较高的了。
明朝初年，为了纠正元朝的宽纵，朱元璋以猛治国，许多大臣只是因为些许小过错即被杀头。朱元璋还连兴大狱，成批成批地诛杀臣僚。刘基认为，治国应宽猛相济，开国之初应该用严刑；经过数年整治，天下已安定，应该改变一下做法了。于是，他便借朱元璋问天象之机，向朱元璋进言道：“从大体上来说，霜雪之后，必有阳春。今国威已立，应该稍示一下宽大了，不宜再用严刑。”朱元璋深以为是，遂命令将锦衣卫的刑具全部烧掉。锦衣卫既负责侍卫皇上，又掌管诏狱，许多大臣就是在诏狱中被施以严刑而致死的。朱元璋下令烧掉锦衣卫的刑具，显然是昭示天下，从今以后不再用严刑来惩治大臣了。尽管朱元璋后来没有完全做到这一点，但刘基的奏议毕竟对他产生了某些影响，酷刑有所减少。
功成身退难保其身
刘基亲眼看到，开国功臣一个接一个地被杀掉，他深知“功高震主者身危”的道理，特别是朱元璋为人刚愎，自己更应该及早抽身。洪武四年，也就是刘基被封为诚意伯的第二年，他便以年老多病为由，请求辞官回乡。朱元璋看他没什么野心，即命其带爵回乡养老。
刘基回到青田老家后，隐居山中，只是和几个朋友下棋饮酒，闭口不谈自己的功劳，也不谈朝廷中的事。他平时穿着普通人的衣服，即使在集市上，人们也认不出他就是赫赫有名的刘伯温。青田县的知县很想见一见刘基，几次登门拜访，皆不得见。于是这个知县打扮成乡间老农，终于在一条小河边见到了刘基。当时刘基正坐在河边洗脚，便叫儿子领知县到一所茅舍中，用普通农家的饭菜招待这个知县。饭后，这个知县才告诉刘基，自己是青田知县，并表示希望为刘基做点事，态度颇为诚恳。刘基闻知他是知县后，露出很吃惊的样子，自称属民，婉谢而去。从此以后，知县再也没有见过刘基。
在明初，朱元璋用特务刺事，无论官员在朝还是在野，都逃不掉这些特务的监视。许多大臣就是因为私下不谨慎而受到严惩。刘基深明此中利害，担心言多有失，所以闭口不谈政事，也不与地方官来往。尽管刘基如此谨慎，但还是受到了丞相胡惟庸的中伤和陷害。
事情的起因是刘基的一道奏疏。原来，在浙东有一片叫谈洋的空闲地，南接福建，历来是盐盗的聚集之地。方国珍就是在这个地方起事造反的。因此，刘基便上奏朱元璋，请求在谈洋没立巡检司，以防盗贼在那里聚众起事。刘基派长子刘琏进京上奏，但刘琏未先告诉中书省，而是由通政司直接上达朱元璋。当时胡惟庸以左丞掌中书省事，对此十分不满。再加上刘基过去对他的评价不好，对刘基素有积怨，便借此事对刘基大加攻击。他对朱元璋说，谈洋那地方有王气，风水好，刘基想以谈洋做自己的墓地。当地的老百姓不让给他，他就想以设巡检司为名，将当地老百姓赶走，借以实现他日后让子孙称王的目的。
刘基素以通晓阴阳著称，朱元璋虽然没有因此而马上治刘基的罪，但心里还是有几分相信，不久便借故削去刘基的俸禄。刘基得知后，颇为害怕，便亲自赴京谢罪。事后留住在京师，不敢再说回乡的事，终日战战兢兢地度日。
后来，胡惟庸果然当了丞相，刘基十分忧虑。他私下对友人说：“假如我对胡惟庸的评说不应验的话，那就是天下老百姓的福气！”胡惟庸表面上装出对刘基很尊重的样子，但暗地里却密切地监视着他的一举一动。胡惟庸清楚刘基的份量，因为在廷臣中能不时与朱元璋密语的没有几个人，许多大事也就是那种密语时决定的，外人难得其详。也正因如此，胡惟庸才对刘基特别留心提防。刘基也清楚，自己时刻处于危险的境地，故不久就忧虑成疾，一病不起，随后便一再请求回乡养老。
洪武八年三月，朱元璋准刘基回乡。他回到青田老家后，病情日益加重，自知将不久于人世，便把儿子刘璟叫到床前说：“为政之道，有时要宽大一些，有时要严猛一些，应交替使用。数年来，皇上以严猛治国，当今的要务在于修德省刑，实行宽大之政，以收揽民心，使国家长治久安。”刘基还说了一些对政治军事的建议，最后说：“现今胡惟庸为相，我说出来没什么用处。胡惟庸被除掉后，皇上一定会想到我。如果皇上问我死前说了什么话，你就将我的这些话密奏皇上。”刘基在家呆了一个多月就死去了，终年65岁。
洪武十三年胡惟庸以谋反伏诛后，朱元璋自然想到了刘基当初对胡惟庸的评价，因而十分怀念刘基，并特地派人到刘基家中探问。刘璟遂将刘基死前的话密奏朱元璋，朱元璋看到后大受感动，也更加佩服刘基的先见之明。这时，刘基的长子刘琏因胡惟庸陷害，已坠井而死。朱元璋便命刘琏的儿子承袭伯爵，食禄五百石。其他大臣的爵位都只能承袭一代，朱元璋念刘基父子皆为胡惟庸所排挤陷害，特许刘基后人代代袭爵，一直延续到明朝灭亡。
据《明史·刘基传》载，当刘基在京病倒时，胡惟庸特地领一个医生来为刘基看病。刘基服了这个人的药后，就一直感到肚子里有一块像拳头般大小的石头。当胡惟庸被治罪时，有的人就把这件事说成胡惟庸的一条罪状，说他有意谋害刘基。此事是否确凿，不得而知，但刘基受胡惟庸的排挤则是毫无疑问的。
刘基是明初著名谋臣，朱元璋一直对他十分器重，平时不直呼基名，而是称他为“老先生”。朱元璋还经常不无自豪地对别人说：“他是我的张子房（张良）。”因为刘基通晓阴阳术数，所以在后人心目中总蒙有一层神秘色彩。刘基除著有《郁离子》一书外，还著有《覆瓿集》、《梨眉公集》传于世。后世民间流传的有关占卜、风水之类的书中有不少托名为刘伯温所著。
征战几十年冤死一流言
——冯胜之冤明朝第三大开国功臣冯胜，从征几十年，南征北战，纵横战场，立下不可磨灭的功绩。然而，在全国统治稳定下来后，已做皇帝的朱元璋却猜忌功臣，对他们大加屠戮。名列第三的功臣冯胜也在劫难逃，因一席流言冤死在自己追随多年的开国皇帝朱元璋手下。
乱世投主纵横天下
元朝末年，政治腐败，社会黑暗。统治阶级昏庸腐朽，横征暴敛，民不聊生。人祸再加上天灾，终于将处于水深火热之中的老百姓逼上梁山，爆发了元末以汉族为主的各族人民大起义。在这次大规模的农民起义中，中原、江淮和江南各地有韩林儿、刘福通、朱元璋、徐寿辉、陈友谅、张士诚等领导的农民军，其中力量较为突出的是朱元璋领导的红巾军。
在朱元璋向滁阳进军、途经妙山时，定远人冯国用、冯国胜兄弟带着队伍前来投顺。冯国胜又名宗异，后改名胜。史书上说他出生时满屋黑气，数日不散。冯氏两兄弟都喜欢读书，精通兵法，哥哥国用深沉稳重，有计谋；弟弟国胜则剽悍勇猛多智略。他们家里有几百亩田地，几十家佃户，是个中小地主。红巾军兵起，他们团结地方上的地主和乡民，结寨自保。只是力量单薄，怕被别的地主武装吃掉。他们听说朱元璋吃掉了附近的两支地主武装，越发自危，经多方打听，知道朱元璋军队纪律好，便带领部队来投奔。
朱元璋见他们兄弟二人身着儒服，知道是读书人，就向他们请教夺取天下的大计。冯国用回答说：“金陵（今南京）的地理形势正如古人所说的龙蟠虎踞，是帝王建都的地方。您可以先攻下此地作为根据地，然后四出征伐，倡仁义，收人心，不贪取财宝女色。这样，天下是不难平定的。”朱元璋听了非常高兴，便把他们兄弟两人留在军中参预机务。从那以后，冯胜与其哥哥冯国用便一心跟从朱元璋，冲锋陷阵，出生入死为他打天下了。
在攻打滁州（今安徽滁县）、和州、三叉河、板门寨、鸡笼山等一系列战役中，冯氏兄弟俩立下了赫赫战功。冯国用跟随着朱元璋渡过长江、攻取太平之后，深受朱元璋重用和信任，命他典领亲军，伴随在朱元璋左右，策划军国大计，成为朱元璋的心腹。
朱元璋在开始的几年，地狭人少，力量单薄。因此，他用优待降人的办法，瓦解敌人，壮大自己。在一次战役中朱元璋擒获了元将陈野先，又放了他，让他招领他的部下。冯国用估计陈野先必定会反叛，认为不如不放。不久，陈野先果然反叛，被他的部下所杀。陈野先的侄子陈兆先又拥众屯于方山。这时元将蛮子海牙扼采石之口，冯国用与将领们攻破海牙的水寨，又擒获陈兆先，其部下三万余人都归降。这些降兵们不清楚朱元璋将如何处置他们，内心很是疑惧不安。朱元璋便挑了五百人为亲军，宿卫在他的帐子附近，把自己平时所用的卫士全部挥退，只留冯国用在床塌旁服侍，这五百人才安下心来。第二天，朱元璋立即命令冯国用带领他们攻打集庆（今南京），他们都争先效死。冯国用又与诸将攻下镇江、丹阳、宁国、泰兴、宜兴，跟从朱元璋征金华，攻绍兴，所战皆胜。冯国用因功而升至帐前亲兵都指挥使。但不久冯国用得病死于军中，年仅36岁。朱元璋亲自祭奠痛哭，后来追封他为郢国公。
自从投奔了朱元璋以后，冯胜便跟随着他驰骋疆场，屡立战功，不久成为元帅。在他的哥哥冯国用死后，朱元璋便任命冯胜袭哥哥冯国用之职，统领亲军。
随着朱元璋势力的日益强大，朱元璋和其他割据政权的矛盾也越来越尖锐，尤其是西面的陈友谅和东面的张士诚。
至正二十年（公元1360年）五月，陈友谅以采石五通庙为行殿，在风雨中匆忙即了皇帝位，改国号为汉。称帝后，陈友谅就约张士诚攻打朱元璋。
陈友谅的军队攻陷太平之后，进逼龙湾，朱元璋与他大战于石灰山。两军对垒，一时未决胜负。冯胜分析形势，率领宿卫军猛攻其中坚，从而大败陈友谅的军队，溺死其士兵数万人，俘获七千多人，立下大功。之后，冯胜跟随朱元璋乘胜追击，攻破安庆水寨，长驱直入江州。一路上冯胜经常与朱元璋谋划战事，机智勇敢，深受朱元璋的信任。不久，冯胜被提升为亲军都护。正当朱、陈两军在江南血战方酣之时，张士诚却于至正二十三年（公元1363年）派大将攻打安丰（今安徽寿县），因为小明王在这里，形势非常危急。冯胜跟随朱元璋北上，解了安丰之围，将小明王迎至滁州。冯胜出力不小，又被提升为同知枢密院事。
