为适应现代战争的要求，中央军委决定压缩人民解放军的总规模，进行整编，缩减陆军(主要是步兵)数额，加强和建立空军、海军两大军种和炮兵、装甲兵、工程兵、防化兵、通信兵、铁道兵等兵种部队。

第二次：1952年1月，解放军进行第二次大裁军，总部和各机关以及国防军步兵部队人数减少，军兵种部队和院校人数扩大，其中还有95万地方部队改编为公安部队，全军总定额保持在300万人左右。1951年11月中央军委召开整编会议，规定到1954年把全军总员额控制在300万人左右。1952年1月，毛泽东批准《军事整编计划》，全军总定额缩减至300万人左右。

第三次：1953年8月，解放军进行第三次大裁军，全军总兵力精简23.3%，其中陆军部队精简比例最大。截至1953年9月底，全军人数减到420万左右。当年12月，全国军事系统党的高级干部会议决定，把全军简编为350万人。到1954年6月全军已精简47.2万余人，年底基本完成计划。

第四次：1957年1月，解放军进行第四次大裁军，到1958年底，全军成建制地集体转业或移交地方的有1个军部、46个师、30余所院校。精简最多的还是步兵部队，全军总人数与新中国建立时相比，精简了61%。1957年1月，中央军委扩大会议，通过了《关于裁减军队数量加强质量的决定》，确定全军总人数再裁减1/3，要求3年裁减130万人，压缩至250万人左右。

在前四次大裁军期间，解放军先后成立了10个军兵种领导机关，分别是：空军司令部、海军司令部、通信兵部、炮兵司令部、装甲兵司令部、公安军司令部、防空军司令部、工程兵司令部、铁道兵司令部、防化兵部，使我军军兵种部队得到了飞速发展。1957年5月，中央军委决定撤销防空军司令部，与空军合并，建立我军空防一体的防空体系。这次裁军使得机关与部队的比例、干部与战士的比例趋于合理，臃肿问题基本得到解决。

第五次：第四次裁军后的1966年6月，中共中央、中央军委决定撤销公安部队番号，统一整编为中国人民解放军。1966年6月，解放军成立了战略导弹部队--第二炮兵。1975年底，解放军进行第五次裁军。"文革"期间，部队组织编制混乱，比例失调，机构臃肿，干部严重超编。1975年6月24日至7月15日，中央军委召开了军委扩大会议，集中讨论和重点解决压缩军队定额、调整编制体制等重大问题。9月，中央军委批转了有关调整方案，方案中，精简最多的是工程兵、铁道兵，到1976年，全军总人数比1975年减少13.6%。1975年6月24日至7月5日，中央军委扩大会议决定3年内将军队减少60万人。到1976年，军队总人数比1975年减少13.6%。后来由于"四人帮"的干扰破坏，精简整编任务没有完成就停了下来。这次裁军使得机关与部队的比例、干部与战士的比例趋于合理，臃肿问题基本得到解决。