Das Ministerium ist mit der Erweiterung seiner Aufgaben in den fortschreitenden Aufbauprozess hinein gewachsen. Noch im November 1955 wurde es von 5 auf 11 Abteilungen vergrößert. Die ehemaligen Unterabteilungen Heer, Marine und Luftwaffe traten als Abteilung neben die Abteilung "Streitkräfte", die alte "Militärische Abteilung". Die Umgliederung vom November 1955 zielte wesentlich auf den Ausbau des militärischen Bereiches, dem allerdings keine besondere Rolle zugestanden wurde, wie in älteren Wehrorganisationen. Das Rechts-, Verwaltungs- und Personalwesen blieb oder wurde besonderen Abteilungen zugewiesen. Diese Aufteilung entsprach auch der Funktion des Verteidigungsministers. 1957 entschied man sich für die Schaffung von Führungsstäben: Bundeswehr (Fü B), Herr (Fü H), Luftwaffe (Fü L), Marine (Fü M) und die Inspektion des Sanitäts- und Gesundheitswesens (InSan). Diese verkörperten sowohl die jeweiligen Ministerialabteilung, waren zugleich aber auch die höchste truppendienstliche Behörde ihrer Teilstreitkräfte und des Sanitätswesens.