设立总干部管理部
为加强对干部工作的统筹管理和准备实行军衔制度，1950年9月4日，中央军委批准成立中国人民解放军总干部管理部，部长为罗荣桓，下设一般兵种干部、特种兵干部、组织统计、军衔奖励、抚恤保健等5个局，预备役干部、档案、管理等3个处和办公室。1952年，总干部管理部改称总干部部，其下属局改称部。
成立军委军事建筑部
1952年11月，为加强对国防工程建设的领导，成立军委军事建筑部，陈士榘兼任部长，直属军委领导，下设3个业务处，主要负责全国国防工程建设的组织计划工作和技术指导，并直接负责某些重点工作的勘察设计、组织施工以及检查、验收等工作。1954年5月，军委军事建筑部改称国防部工程建筑部，归工兵建制，这时的工兵领导机关设有司令部、国防工程建筑部、干部部、器材部和军训处、军校处、政委办公室（后改为政治部）、工兵杂志社。部（室）之下设30个处（室）。1958年2月精简机构时，撤销了国防部工程建筑部，将其业务处（室）分别合并到工程兵司令部和器材部。
设立总军械部
为集中统一管理军械工作，1954年11月6日，中央军委决定将军委军械部改称中国人民解放军总军械部，部长为王树声。下设组织计划、武器供给、基本建设、武器订购、弹药订购、雷达探照灯管理、军械科学研究、干部、财务等10个局，检查、学校管理、行政经济管理、直属政治等4个处和办公室、政委办公室。主要负责制定和组织实施全军通用武器装备的发展计划，制定通用武器装备的战术技术指标和各种规章制度，订购、保管、维修和供应通用武器装备。该部于1957年后撤销。
设立训练总监部
为加强对全军军事训练的领导，统一全军军事院校的军事思想，研究和整理全军各个历史时期作战经验，1955年4月21日，中央军委批准，以总参谋部军事训练部、军事学校管理部（1952年12月，中央军委通知成立。1953年1月起与总参谋部军训部分开办公）、军事出版局为基础，成立中国人民解放军训练总监部，刘伯承任部长。下设计划和监察、陆军战斗训练、军事学院和学校、军事科学和条令、军外训练等5个部，体育训练、战斗训练物资保障等2个局，政治、干部、军乐、行政经济管理4个处和办公室以及战斗训练杂志社、军事出版社。主要负责制定和组织实施全军训练大纲、合成军队与陆军部队的训练计划，审批和考核军种部队的训练计划，管理院校建设、军事科学研究和颁发合成军队条令条例等工作。该部于1957年后撤销，工作划归总参谋部。
设立武装力量监察部
随着军队不断发展，为便于对各方面工作实施及时、严格的检查和监督，1955年6月22日，中共中央政治局批准成立中国人民解放军武装力量监察部，叶剑英任部长。下设陆军监察、空军监察、海军监察、后勤财务监察等4个部，计划、行政经济管理等2个处和办公室。主要负责监督和检查全军的战备、训练、编制、武器、装备、纪律、政治教育和后勤保障等方面的工作情况。该部于1957年后撤销，工作划入总参谋部。
设立总财务部
为通盘计划分配和更有效地使用军费，1955年8月21日，国防部批准，将总后方勤务部的财务部改为总财务部，杨立三任部长。下设组织计划、预算财务、劳动工资、工程建筑经费、工厂仓库经费、会计、外汇等7个局，训练、干部等2个处和办公室、检查室。负责编制和执行国防经费的预决算，制定年度财务计划和各种财务制度、标准等，并检查监督执行情况。该部于1957年后撤销，并入总后方勤务部。