Den karismatiske Schmidt tog 1969 plats i den västtyska regeringskoalitionen ledd av SPD under förbundskansler Willy Brandt. Schmidt blev försvarsminister och gav samma år ut Strategie des Gleichgewichts som är en försvarspolitisk bok. Schmidt var sedan tidigare intresserad av försvarsfrågor och gav bland annat ut boken Verteidigung oder Vergeltung (1961). Under Helmut Schmidts tid som försvarsminister beslöt man 1970 om skapandet av Bundeswehrs universitet i Hamburg och München. I juli 1972 efterträdde Schmidt Karl Schiller som minister för ekonomi- och finansfrågor. Efter det för regeringen lyckade resultatet av misstroendeomröstningen samma år blev Schmidt finansminister från 15 december 1972.I samband med Guillaume-affären 1974, då Willy Brandt avgick, tog Helmut Schmidt över som förbundskansler. Schmidt tog över som förbundskansler i en tid när oljekrisen inletts och ekonomisk stagnation försvårande konjunkturläget. EG-länderna var tvungna hantera den stora inflation som följde oljekrisen och kollapsen av Bretton Woodssystemet, varpå ett europeiskt valutasystem, EMS (valutaormen), skapades för att reducera växlingsriskerna mellan de europeiska valutorna.Under 1974 gjorde Schmidt viktiga utrikespolitiska besök hos Leonid Brezjnev i Sovjetunionen under oktober och hos Gerald Ford i USA under december. Samtidigt inleddes det nära samarbetet med Frankrikes nyvalde president Valéry Giscard d'Estaing. År 1975 deltog Schmidt vid Europeiska säkerhetskonferensen (ESK) (i dag OSSE) i Helsingfors där han upptog kontakter med Östtysklands ledare Erich Honecker. I oktober följde ett statsbesök i Kina.