洪武元年(1368)八月，朱元璋赴汴梁还京后，天气大旱，刘基处斩李彬，旱象并未解除，朝廷征询除旱建议。刘基针对时政借此提出三项条陈：一是士卒物故之人的妻室共有数万之众，现在都集中在别营居住，阴气郁结导致久早不雨；二是工匠死后，尸骸未敛；三是东吴张士诚的投降将吏都编入军户，干犯了中和之气。前两项是为生民谋利，后一项是对当时政治的一种忧患。这三项条陈，与旱情其实并无干系，仅是求得尽快纳谏的手段。朱元璋求雨心切，刘基的建议全部被采纳，但仍未下雨，致使其受到了朱元璋的恚目。
　　 借助占验陈述政治见解并非刘基的发明，传统的“天人感应”观念，虽然主要作为封建政治意识形态的信条，但在先秦，这一观念的产生便是与民本思想交融在一起的。如《尚书》中就有“天矜于民，民之所欲，天必从之”，“天视自我民视，天听自我民听”。刘基继承了这一传统，并在吴元年屡次使用。一次火星运行有变，群臣惊惧，刘基就曾密奏朱元璋，建议其下诏罪己，以回天意，朱元璋不敢违忤，只得遵行。后大旱无雨，又建议对陈年滞狱迅速议决平反，由此请求立法定制。以往刘基常是在预测天象将要变化之时提出建议，因此，往往言而有验，朱元璋也笃信不疑，但是，这一次并未应验。
　　 刘基与朱元璋的分歧由来已久。他们之间的关系并不像三国时的刘备和诸葛亮：朱元璋有失刘备的宽仁，猜忌有余；而刘基也缺少诸葛亮的委婉而刚直有过。朱元璋对刘基远不是言听计从，而是“审而用之”，在援救安丰等问题上就已发生了分歧。吴元年(1367)九月，张士诚被消灭后，朱元璋曾召刘基、陶安讨论夺取天下的大计。刘基认为“土宇日广、人民日从，天下可以席卷矣”。随即朱元璋便驳议曰：“土不可以恃广，人不可恃众。”朱元璋谨思慎行无可厚非，但与刘基初到金陵时“称老先生而不名”的情形有霄壤之别。随着朱元璋军事上的节节胜利，对刘基的态度也逐渐倨傲。祈雨未验则是朱、刘关系变化的一次明显表露。
　　 以前，朱元璋对刘基虽偶有愠容，但怒而有节，并常常在刘基面前对李善长表示不满，而且还屡次有以刘基为相的想法。但令朱元璋失望的是，刘基不但对朱元璋的失误公开不予苟同，曾促使其“下诏罪己”建议停建中都，而且对李善长等人虽有宿怨，但臧否弹射，尚能擘肌分理、客观公允，并未完全迎合朱元璋的心理。这些复杂的政治、心理背景交织在一起，给刘基的晚年生活着上了灰淡冷漠的色彩。
　　 乡党文化：与淮人集团的对立
　　 朱元璋用人大多是起兵淮甸的故旧乡人，所以在朱元璋掌握了天下以后，淮人集团也就成了大明王朝的政治中心。刘基因功勋甚高，一直为淮人集团所忌，而且他性格耿介，不愿屈服于权势，自然也就与朱明王朝的新贵们发生了新的矛盾。因此，明王朝建立不久，刘基便又步入了艰难的仕宦之途。
　　 处斩李彬
　　 早在朱元璋初次占领集庆时，贝琼就作诗曰：“两河兵合尽红巾，岂有桃源可避秦？马上短衣多楚客，城中高髻半淮人。”明朝建立后，淮人总领枢要、朋党比周、权倾朝野。左相国韩国公李善长是淮人官僚集团的中心人物，朱元璋制词比之萧何，赐予铁券，免二死。其后儿子李棋被拜为驸马都尉，朱、李成了儿女亲家，同籍胡惟庸便是因李善长引荐而及相位的。而刘基则素来刚直不阿，决不拉帮结党。刘基去世后，朱元璋对刘基儿子说：“刘伯温他在这里时，满朝都是党，只是他一个不从，吃他每蛊了。”因此，认为刘基是“浙东地主集团的领袖”，尚缺乏足够的证据。
　　 刘基不夤缘权要，不谀淮西集团，突出表现在处斩李彬一事。
　　 洪武元年(1368)四月，因建都及谋议攻取大都诸事，朱元璋至汴梁大会诸将，李善长和刘基在京师居守问政。朱元璋临行前还单独叮托刘基要“督察奸恶以肃辇毂，虽内府之事亦宜纠举”。刘基任御史中丞，身负整肃纪纲的重任，虽然主张宽仁治国，但对侮法之徒决不稍示姑息，行法不避权贵，不徇私情，即如中书僚吏、宿卫宦侍也概莫能外。朱元璋赴汴梁时，恰逢中书都事李彬贪纵侮法，理应处斩。但李彬是李善长的亲信，李善长希望刘基能缓治其狱，但刘基不为所动，随即遣官驰奏，以求秉法处斩，得到了朱元璋的准允。时值天气大旱，正在计议祷神求雨，李善长以祈雨时不宜杀人为由，试图阻止。刘基对李善长的徇私行为十分反感，愤然曰：“周饥克殷而年丰，卫旱伐邢而雨，杀李彬天必雨！”于是李彬被斩，李善长心生怨怒，从此对刘基十分嫉恨。朱元璋回京后，平时怨恨刘基的人乘机诋毁，李善长说刘基执法专恣，并且在祭祀的法坛之下行刑，有辱天地之神。朱元璋虽未完全听信于李善长等人，但“专恣”二字深深触动了朱元璋的戒备心理。秉法处斩李彬，不但触忤了淮人，而且导致了朱、刘隔膜的加深。
　　 论相结怨
　　 明王朝既立，朱元璋最为担心的是权臣勋旧产生觊觎大宝之心，因此，对统领众职的丞相，朱元璋更费思量。洪武九年(1376)终于汰平章政事、参知政事。十三年(1380)正月诛丞相胡惟庸、罢撤中书省，自操权柄，并敕谕群臣“以后嗣君，其毋得议置丞相。臣下有奏请设立者，论以极刑”。
　　 初设丞相时，朱元璋以比较信任的同里勋旧李善长、徐达分任左、右丞相。徐达行为恭谨,“帝前恭谨如不能言。”且长期鞍马在外，朝归之日“单车就舍”“不矜不伐”，朱元璋也较为释然。李善长虽居人臣之极，但朱元璋对其并不十分满意。一次，朱元璋因事斥责李善长。刘基则曰：“善长勋旧，能调和诸将。”朱元璋对刘基不挟私情评暨人物的品节甚为激赏，说：“是数欲害君，君乃为之地耶！吾行相君矣。”刘基顿首辞却说：“是如易柱须得大木，若束小木为之，且立覆。”李善长罢相后朱元璋又一次与刘基论相。但是，朱元璋与刘基议相仅是抚疏平衡的手段，以示倚重的形式。议相之前筹谋基本已定。欲相刘基，也仅是空头褒奖，抑或是投石问路，试探其是否有攫权之望。结果，朱元璋还是按其既定的人选，担任丞相之职。洪武四年(1371)正月，分别以汪广洋、胡惟庸为右左丞相
　　 汪、胡二人都是刘基认为切不可为相的人选，但由于胡惟庸“以曲谨当上意”，因此朱元璋对其“宠遇日甚”。汪广洋则淹通经史，廉明持重，洪武元年(1368)主理山东行省，能抚纳新附，也有一定的政绩。朱元璋在封忠勤伯的诰文中，称赞其割繁治剧、屡献忠谋，比之为子弟、孔明,“帝心终善广洋”。可见，朱元璋不听刘基劝谏，主要是二人都颇“当上意”。
　　 以汪广洋为相，更幽昧的原因是与朱元璋对李善长的态度有关。李善长以布衣徒步，草昧之际即随朱元璋，功绩卓著。但李善长外表虽宽和，内心却多忮刻。参议李饮冰、杨希圣稍稍侵犯其权益，就被奏黜。因此，“贵富极、意稍骄，帝始微厌之”。对李善长的专擅行为，汪广洋在洪武九年(1376)曾与左御史大夫陈宁一起上疏说：“善长狎宠自恣，陛下病不视朝几及旬，不问候。驸马都尉祺六日不朝，宣至殿前，又不引罪，大不敬。”李善长因此而削岁禄1800石。
　　 汪、胡居相位之后，刘基的处境越发艰难，对刘基的刻削主要是恃权自肆的胡惟庸。刘基告老归里，最根本的原因是朱元璋日渐专恣，朝中胡惟庸秉政。因此，不扬功名、不求显达，韬晦自全是他晚年的人生态度。
　　 宽猛有别：与朱元璋的政治分歧
　　 朱元璋在明朝建立后，每逢论政，几乎无不谈论宽恤惠养，以尽百姓“生息之道”。表面看来，朱元璋和刘基为政宽猛态度基本一致，但是，朱、刘为政宽猛的思想、实践的内容还是有所不同的。
　　 宽政的笃行程度不同
　　 朱元璋出身寒贱，对民瘼有所体察，说：“朕本农夫，深知民间疾苦。”明初也实行了一系列的休养生息政策。但由于他是一位专制主义者，他的恤民政策、宽政言论，是从维护极权统治出发的，二者从本质上不可能真正统一。极权的利益是通过剥夺百姓的权利而获得的。因此，“闻宽宥之名，未见宽宥之实”是明初政治的一个重要特征。如，关于赋税，朱元璋的薄赋之论尤多。他说：“国家爱养生民，正犹抱保赤子，惟恐伤之。苟无常制(指赋制)，惟掊敛以剔其脂膏，虽有慈父不能收爱子之心。”但是，明初农民的税役仍然很重，形成了“或卖产以供税，产去而税存；或赔办以当役，役重而民困”的局面。对苏、松、嘉、湖、常、杭课税极重。籍没了富民田产为官田。其后杨宪又以浙西土地膏腴为名，增其赋税，每亩竟有多达二至三石的，与别处相比，不啻倍蓰,宽政恤民并无其实。
　　 刘基不但对官吏的监察严格，而且对民情也深有体恤。尤其对滞狱冤情、降兵俘卒关心尤切。他往往以天人感应这一帝王也易接受的方法以求平反冤案、安抚俘卒，阻止朱元璋滥杀无辜，有时不惜以忤怒帝王为代价。这也是他与朱元璋产生隔阂的重要原因。
　　 循法观念不同
　　 朱、刘都对隳废、腐败的政治深恶痛绝。刘基所谓“宋、元宽纵失天下，今宜肃纪纲”，也是就整肃吏治而言的。这在洪武元年(1368)正月，朱元璋与刘基的一场论对中可以看出。因此，严明法纪与惠爱百姓是可以统一的(即他所谓“严而有惠爱”)，法制是保护生民的手段，而不仅仅是统治阶级约束民众的暴力手段。但是，刘基所说的“振以法令”并不是滥施刑暴。他曾“请立法定制，以止滥杀”，振肃纪纲是循法而行。
　　 朱元璋与刘基所说的“立法定制”不同，他允许采用“法外之法”、“律外之刑”。举凡凌迟、族诛、墨刖、宫刑以及挑筋、剁指、断手等均被作合法的惩治手段。他不但因“梦”而任意“刑人”，而且还在《大明律》之外“采辑官民过犯”，条格律例，制定《御制大诰》及《续编》、《三编》,在洪武十八年(1385)、十九年(1386)颁行全国。
　　 这时，刘基去世已10余年,《御制大诰》是朱元璋思想的直接体现。《大诰》判刑之重远过于《大明律》。例如收粮违限，依《大明律》处杖刑，依《大诰》则当凌迟处死。如果百姓持诰赴京面奏，官吏阻拦，即当族诛之罪。朱元璋对这些法外施刑功效的笃信，必然导致施刑过滥。洪武年间的几起大狱，便因有“族诛”的合法刑律，动辄诛杀数人，许多无辜民众死于非命。这与刘基“以止滥杀”的思想是截然不同的。苛刑滥施，必然导致法制的混乱，以至“弊若蜂起，杀身亡家者，人不计其数”。整个社会都陷入人人自危的恐怖气氛之中。
　　 同时，朱元璋《大诰》所设的峻令，具有很大的主观随意性。如《御制大诰初编·军人妄给妻室第六》载，军人唐闰山到兵部妄告姚小五妻史灵芝为自己妻室，兵部便令唐、史完聚。姚小五告状，县衙怕得罪兵部，不敢为其伸冤。朱元璋对妄取他人之妻的唐闰山未加追究，对渎职官员也不分轻重，一律将有司官员“尽行处斩”。治狱因其好恶，任意轻重。而刘基等草创，其后又屡经改定的《大明律》则明确规定官吏不得“变乱成法”，“凡官司故出入入罪，全出全入者以全罪论，若增轻作重，减重作轻，经所增减论，至死者坐以死罪”，具有一系列必须因循的量刑原则。因此，朱、刘循法观念的根本区别在于一是依《诰》，一是依《律》。前者是人君之“语录”，后者为一国之法典。
　　 宽猛次第不同
　　 朱元璋主张立国之初应施以宽仁，他说：“天下始定，民财力俱困。譬犹初飞之鸟，不可拔其羽；新植之木，不可摇其根，要在休养安息。”明初百废待兴，朱元璋确实实行了一系列的有利于安定民心，发展生产的政策，与元代滥施连坐法不同，明朝将建时，朱元璋曾说：“先王之政，罪不及孥。自今除大逆不道，毋连坐。”法律制度也“宽而有制”，认为“网密则水无大鱼，法密则国无全民”。《大明律》较元代的苛滥刑法明显有所减轻。但是，明王朝建立不久，随着《御制大诰》等法外之令的颁行，朱元璋便开始了杀戮功臣、重典治吏，实行以猛治国的方针。如洪武十五年(1382)的空印案，将各地方衙门长官主印的一律处死，滥杀了许多无辜之人，即如当时有名的清廉官吏方克勤也死于大狱。朱元璋的义子亲侄李文忠因为崇儒礼贤，左右多儒生，朱元璋也尽杀其门客。直至朱元璋晚年，政治才稍事宽缓。
　　 刘基则主张明朝方建，先革除弊政，后复宽政。刘基所构拟的为政宽猛时间次序大约是明朝初建时一二年清除元末弊俗，俟“国威已立”后“少济以宽大”在御史中丞任上对李彬等人的忤法行为严刑惩戒，便是其扫除弊俗的表现。而“修德省刑”则是其后屡次申论的内容，即使归居青田，朱元璋力主“收平中国，非猛不可”时，刘基还是针锋相对地提出了上述政治主张。
　　 政治目的不同
　　 刘基主张立国之初整肃纪纲，目的在于“复宽政”，和尽快实现宽政，民本、德治是其根本的政治观念。整肃纪纲的重点是治吏，也是为了保证实现宽政。而朱元璋的目的则稍有不同，他作为君临天下的皇帝，最关心的是何以江山永固，何以保证不使大权旁落，使百姓得以休养生息，也是从这一根本前提出发的。一旦兵革之创得以缓解、经济得以发展后，便不惜使用一切手段，敛权一身，滥施淫威，以酷刑重典的威慑力量实现这一目的。因此，严刑重典，以猛治国是朱元璋根本的政治策略。但是出于政治利益的考虑，他不愿以暴君的形象见诸臣民，载诸史册，还要戴上“加恩胜国”的冠冕。因此，当朝臣提出要整肃朝纲时，他便以创残困苦之余，当休养生息予以否定；当有人提出要刑用重典时，他则以“未闻用商、韩之法，可致尧、舜之治也”答对。而实质洪武年间用刑之酷烈旷古罕见，仅使用凌迟、枭示、族诛等极酷之刑就“无虑千百”。因此，朱元璋的统治实质是“猛烈之治、宽仁之诏，相辅以行”，“猛烈之治”是其实，“宽仁之诏”仅是聊以掩饰的表象而已。