洪武三年（1370年），朱元璋大封功臣。授命为他开国翊运守正文臣、资善大夫、上护军。按运筹帷幄的功绩，刘伯温理当入公，但最初封公的六人为李善长、徐达、常茂、李文忠、冯胜和邓愈。李善长被封为韩国公，明代开国第一功臣，年俸4000石。而刘伯温的爵位仅为诚意伯，年俸只有240石。
明朝立国后，刘伯温仍提出不少治国之策：如御史的检举弹劾；劝朱元璋，国威已立，应当稍微采用宽大政策来治理天下。但即帝位后的朱元璋，心态开始发生变化，"非我族类，其心必异"，功臣们一个个被诛杀或者革职。刘伯温为保全自己采取三项措施：主动辞官告老还乡，不管政事；让儿子留京为官，当作人质；退隐后保持异常低调的生活。
但即便如此，也难免祸事凭空来临。刘伯温曾因为"谈洋"是浙、闽地界的小地方，走私盐贩往往聚集在此，多出乱民，建议在青田设立谈洋巡检司，遭到政敌胡惟庸的诬陷。胡惟庸对朱元璋说：谈洋这个地方有王气，刘伯温想占来作自己的墓地，百姓不同意，他便请求设立巡检司来驱赶百姓。这一番诬陷击中朱元璋的要害，吓得年迈的刘伯温从家乡星夜兼程来到南京，从此留居于此，再也不敢回家。
洪武八年（1375年），刘伯温仍然和所有在京官员一样，参加元旦的早朝，随后在奉天殿做了一首《乙卯岁早朝》，这虽属于歌功颁德的应酬文字，但诗中仍可以看见刘伯温的心情。正月下旬，刘伯温感染了风寒，朱元璋派胡惟庸带了御医去探望。御医开了药方，他照单抓药回来煎服用，觉得肚子里好像有一些不平整的石块挤压在一起，让他十分痛苦。二月中，刘伯温抱病觐见朱元璋，婉转的向他禀告了胡惟庸带了御医去探望，服食御医所开的药之后更加不适的情形。朱元璋听了，只是说了一些要他宽心养病的话，更知此事不妙。三月下旬，病情越来越重，已经无法自由活动的刘伯温，由刘琏陪伴，在朱元璋的特遣人员的护送下，自京师动身返乡。回家后，拒绝亲人和乡里为他找来的一切药石，只是尽可能的维持正常的饮食。
刘伯温自知来日无多，找来两个儿子交代后事，并让刘琏从书房拿来一本天文书，对他说："我死后你要立刻将这本书呈给皇上，从此以后不要让我们刘家的子孙学习这门学问。" 四月十六刘伯温卒于故里，享年六十五岁。六月，葬于乡中夏中之原。关于刘伯温的死因，后来胡惟庸案发后，医生供认是胡惟庸授意他毒死刘伯温的，有人推测，胡惟庸是得到朱元璋的授意才下此毒手。
武宗正德八年（1513年），朝廷赠他为太师，谥号文成。世宗嘉靖十年（1531年），因刑部郎中李瑜的建言，朝廷再度讨论刘伯温的功绩，并决议刘伯温应该和徐达等开国功臣一样，配享太庙。
刘伯温奇人奇事
1、密室的奥秘
据《三岗识略》所述，明朝皇宫大内有一密室，相传是刘伯温所设，锁卫很严，世代相传：不遇大变不开。二百年后，李自成兵围北京城，攻城很急，崇祯皇帝亲启那座密室，里面有一书柜，中藏三副图画。第一副图绘文武官员几十人，披发乱行，问内臣，回答说："难道是说官员多参与乱法吗？"第二副图绘兵将多倒戈弃甲，百姓负荷奔走，说："难道是说军民都反叛了吗？"再展开第三副图，画中人和自己酷似，穿白背心，光着右脚，散发挂在树下，内臣不敢答，崇祯皇帝勃然色变。几天后城破，崇祯皇帝吊死在景山上，和画中所绘一摸一样。
2、《烧饼歌》
一天，明太祖呆在内殿，正在吃烧饼。刚吃了一口，内监忽报国师刘伯温来见。太祖用碗将烧饼盖住后，将刘伯温召进内殿。礼毕，太祖问道："先生深明数理，可知碗中是何物件？" 刘伯温掐指算了算，应道："半似日兮半似月，曾被金龙咬一缺，此食物也。"打开碗，果然如其所说。朱元璋一边吃烧饼，一边让刘伯温预卜朱家天下的气数如何，君臣一问一答，便形成了《烧饼歌》的内容。《烧饼歌》中预言了从明太祖朱元璋开始，到以后的许多大事：燕王篡位、土木之变、宦官乱政、明朝灭亡崇祯死、清军入关、汉人剃发、康乾盛世、满清末朝等，这些预言无不被历史所验证。
3、刘伯温碑文
1915 年乙卯年，山西地裂现出刘伯温碑文，两篇五言律诗，共148句。另有550年前由贡显和收藏的刘伯温《推碑图》，共三卷。这两部预言，都清楚的预言了从清末至现在，中国社会将面临的大事。更是警示了到末法末劫时期，人类道德败坏的程度，人类所面临的劫难，弥勒下世救度众生的事，以及众生对此事的不同态度所得的不同结果：而时弥勒佛言："善哉！善哉！善男子信女子，我佛之传三字三法，乃佛三宝，还有长生两玉，并三十六件佛宝，一步到位，不求口虚，只求真心真践。必得见玄妙，永续长生，必得正果，转凡成圣，永离苦海。不信吾法语言，遭十种恶业，朝病暮死。闻三宝必生诽谤者，人身不得，万劫难复人道。"
