1954年9月，经全国人大会议决定，在国务院建立国防部长，随后录用了黄克诚、谭政等几位国防部副部长，到了上个世纪80年代后，国防部副部长被撤销。

　　一是在中央军事委员会早已荣耀存在的基础上，1982年9月，依据《宪法》，建立中华人民共和国中央军事委员会。至此，新建立的国家军委替代了国防部“军委对外的称号”的责任，国防部然后仅是国务院的一个军事作业机关，很多部之一，单纯只担任军事交际等作业，一些责任交由各大部行使。故而，国防部长不需要更加多的帮手，撤销了国防部副部长。这是根本原因之一。

　　二是上个世纪80代后，国家通过几代领导人的励精图治，特别是通过变革开放的春风，发生了天翻地覆的改变，国家经济实力和国际地位慢慢地加强，国情变了，军事奋斗预备有所改变，故顺应年代潮流，撤销了国防部副部长。

　　三是新中国建立之初，打天下的功臣人数很多，为显示功劳，一些开国大将或开国大将委以重任，荣任国防部副部长。上个世纪80年代后，跟着他们的年纪增加，有的故去，有的“退居二线”作业，故逐步撤销国防部副部长，以习惯年代变迁和人员替换。

　　建国时的国防部是仿苏式的，是日常军事主管机关，八十年代变革后的是中国特色的，国防部责任改为对交际往。