刘伯温和李善长的对决，足见智慧远没有实力重要
朱元璋建立明朝后，中央行政机构效仿元朝中书省，并在此基础上略作了一些改革。
元制：中书省设左、右两丞相，平章政事若干，以及左右丞等职务，其中左、右两丞相是正职，右丞相略高于左丞相，平章政事是副职，左、右两丞是具体执行者。朱元璋取消了平章之职，以左职高于右职，其余的照旧。
由于李善长在战争年代一直是群臣之首，因此立国后左丞相的位置非他莫属。朱元璋起于淮西，功臣勋贵也大多来自淮西，朱元璋封公爵六人，全都是淮人；候爵二十八人，绝大多数也是淮人，从而形成了一个庞大的淮西集团。
朱元璋做上了皇帝以后，与诸将自然拉开了距离，原本负责调和诸将的李善长就成了朱元璋与诸将沟通的桥梁，淮西勋贵们不能再和朱元璋勾肩搭背，就转而依傍李善长这棵大树。淮西勋贵紧密团结在李善长的周围，对朱元璋来说是一个威胁。
朱元璋曾打算用“张良”（刘基）来制约“萧何”（李善长），因为刘基不属于淮西集团，而且与李善长有很尖锐的矛盾。洪武元年，明军攻下开封，朱元璋前往开封督战，并考察在洛阳建都的可能性。
在临走之前命御史中丞刘基与李善长辅政太子居守南京，在留守期间，刘基和李善长产生了矛盾。当时，刘基认为宋、元以宽政失天下，当前应吸取教训严肃纲纪，令所有御史大力监察群臣，然后禀报皇太子处理，这样就搞得人人自危，得罪了许多人。
中书省都事李彬贪污犯法，依律当斩，李彬是李善长的亲信，为李善长做了许多不法之事。李善长找到刘基，请他暂缓治罪，然而刘基没有给这个面子，将李彬逮捕入狱，并派人驰报正在开封的朱元璋，不久，朱元璋批准处死的文书发回。
李善长不甘心，他企图拖延行刑时间，等到朱元璋回来后再当面讲情，于是对刘基说，当前正在求雨，不宜杀人。刘基却说，杀了他，天必定下雨。于是就杀了李彬，李善长十分生气，朱元璋从开封回来后，李善长立刻控告刘基在祭坛下杀人，大不敬，因此老天不下雨。李善长的其他亲信和仇恨刘基的人也纷纷跟进告状。
上天似乎也不向着刘基，处死李彬之后，一直没有下雨，刘基关于“杀之，天必雨”的预言没有兑现。
为了求雨，刘基给朱元璋提出三点建议：一是解散安置阵亡士兵妻子的寡妇营，听任改嫁，或送还回乡与家人团聚；二是死亡工匠官府代为安葬；三是原张士诚手下将吏免于充军。
朱元璋对此一一照办，但雨还是没下，为此朱元璋迁怒于刘基。这时恰好刘基妻子去世，他借机回乡办理丧事，朱元璋批准了他的请求，同时把他手下的一些御史、按察司官员贬往开封，李善长也算是出了一口恶气。直到这年冬天，朱元璋才将刘基召回。
李善长和刘基的矛盾并没有结束，李善长随时准备要刘基付出更大的代价。
大明立国后，李善长和刘基都处于半退休状态，但是两人似乎并不愿放弃手中的权力，也不愿意看到对方复出后取得对自己的优势地位，矛盾仍在发酵，蓄势待发。
而刘基显然不是李善长的对手，李善长不仅树大根深，实力雄厚，还拥有一大批手握实权的亲信，而刘基除了与朱元璋关系密切外，再也找不到一个外援。两人实力的差距，也体现在洪武三年那次封赏中，李善长位列功臣之首，刘基则不在功臣之列，两人的差距何止一光年。
洪武四年，李善长和刘基正式退休，事实上两人都是退而不休。李善长推出了他的亲信胡惟庸，间接掌握了中书省大权。刘基虽处江湖之远，但仍不断透过特殊管道保持和皇上的联系，从而对政局施加影响，他随时都有复出的可能。
虽然刘基隐藏的很深，但那只是表面现象，其实质很可能是大员在野的清高，作为皇帝的近侍，他不屑于和中下层官员打交道，这也是他在朝中没有势力的原因。
洪武七年，朱元璋任命李善长的亲信胡惟庸为左丞相，刘基得知这一情况非常忧虑，预言这将会造成一场灾难，他愤懑地说道：“使我言不验，苍生之福也。”他的忧虑也不完全出自公心，他看低胡惟庸的真实原因是不愿李善长进一步扩大对自己的优势地位。
这句话传到胡惟庸的耳朵里之后，胡惟庸等人十分愤恨，新仇旧恨涌上心头，于是他们决心报复。
浙江和福建的交界处有一块地方叫谈洋，历来是盐盗的老窝，也是方国珍以前的地盘，刘基上书朱元璋，请求在这里设巡检司加以管理，然而当地老百姓不愿搬迁，产生了矛盾。
胡惟庸得知此事后，指使他人控告刘基，说谈洋地有王气，刘基想霸占这块地方作为自己的墓地，但当地老百姓不给，所以刘基才请立巡检司驱逐老百姓。
这一指控击中了刘基的命门，朱元璋最大的忌讳就是大臣图谋不轨，无论是付诸言行还是思想上的意淫，都是不可接受的。刘基精通风水，这一控告将刘基的特长和朱元璋的禁忌巧妙的结合起来，简直就是为两人量身定做的。
朱元璋听后，十分生气，罚了刘基的俸禄，刘基自然很害怕，进京向朱元璋解释，后留居南京。没过多久，刘基生病。朱元璋派胡惟庸带御医前往探视，据说刘基喝了御医的药后病情加重。
洪武八年三月，朱元璋亲制文赐刘基，并派人护送他回老家，到家不久，刘基就死了，年六十五。
胡惟庸对刘基的诬告是一脉相承的，这一事件是洪武初年李善长与刘基因“李彬案”交恶的延续，是一次典型的报复杀人。这个被世人认为智比诸葛、神机妙算的军师刘伯温，最终还是敌不过李善长。