En tant que chancelier, il s'est concentré sur les affaires internationales, cherchant la "unification politique de l'Europe en partenariat avec les États-Unis" et émettant des propositions qui ont conduit à la décision Double-Track de l'OTAN en 1979 de déployer des missiles Pershing II américains en Europe. Il était un diplomate énergique qui cherchait la coopération européenne et la coordination économique internationale et a été la force motrice dans la création du Système monétaire européen en 1978. Il a été réélu chancelier en 1976 et 1980, mais sa coalition s'est effondrée en 1982 avec le renversement par ses alliés de coalition, le Parti libéral-démocrate. Il a pris sa retraite du Parlement en 1986, après avoir affronté l'aile gauche du SPD, qui s'opposait à lui sur les questions de défense et économiques.
En 1986, il était un partisan de premier plan de l'union monétaire européenne et d'une Banque centrale européenne.