1871年德意志帝国成立，德意志军队随即诞生。第一次世界大战结束后， 德意志帝国的军队几乎完全解散。  

魏玛共和国时期，1921年1月1日政府按照 凡尔赛条约的规定建立德国防卫军（Reichswehr）。  

在1935年10月15日， 纳粹德国正式将德国防卫军（Reichswehr）更名为 德国国防军（Wehrmacht）。1945年5月9日德国战败投降，德国国防军被予以解散。  

1955年11月12日， 德国联邦国防军正式建立，该天是 普鲁士将领 沙恩霍斯特（Gerhard von Scharnhorst）诞辰二百周年。

1956年3月1日， 德意志民主共和国 国家人民军紧随 西德的联邦国防军建立。  

两德统一后，联邦国防军削减三十七万人，前东德的国家人民军解散，其中大约五万人并入联邦国防军。