Barzel, die 82 jaar was, werd door de Duitse bondskanselier Merkel geprezen als „een oprecht democraat en vurig patriot.”Barzel zette zich met name in voor de hereniging van beide Duitslanden, een streven dat hem als CDU-leider vroeg in de jaren ’70 in conflict bracht met toenmalig SPD-leider Willy Brandt. Barzel diende in 1972 een motie van wantrouwen in tegen Brandt, omdat die de banden met de DDR wilde aanhalen. De motie kwam twee stemmen tekort om te worden aangenomen. Brandt versloeg Barzel datzelfde jaar bij de landelijke verkiezingen.

Barzel gaf in 1973 het leiderschap van de christendemocraten en hun fractie op.