刘伯承和毛泽东在军队战略上有分歧，刘的不到毛的看重．同时刘伯承不堪高层内部的人情世故，他更愿意投身较单纯的军队教学事务．

1950年冬，他领导组建人民解放军军事学院，任院长(后兼政治委员)。

1954年起先后任中央人民政府人民革命军事委员会副主席，国防委员会副主席，军委训练总监部部长。

1957年9月任高等军事学院院长兼政治委员。

1958年因所谓教条主义受到错误的批评。

1959年后还曾负责中共中央军委战略研究工作。

他一贯主张“治军必先治校”。

在院校工作中坚持以理论和实践相结合的思想指导教学和学术研究，在继承和发扬人民解放军优良传统的基础上学习外军的先进经验。

他组织大规模的教材编写和翻译工作，亲自撰写、审定和翻译了一批军政教材。

积极建设又红又专的师资队伍，团结教育旧军官出身的教员。

重视合同作战的训练，并陆续开设海军、空军、炮兵、装甲兵等系，为后来建立各军种、兵种指挥院校和形成比较完整的军事院校体系奠定了基础，为建设现代化、正规化革命军队培养了德才兼备的中高级干部。

1955年被授予中华人民共和国元帅军衔和一级八一勋章、一级独立自由勋章、一级解放勋章。

他是中共第八届至第十一届中央政治局委员。

1966年1月起任中共中央军委副主席。

他还是第二届至第五届全国人大常委会副委员长。

1982年后，由于年龄和健康原因辞去党政军领导职务。

1986年10月7日在北京逝世。