Voor De Hoop Scheffer in 1986 de politiek in ging, had hij al twaalf jaren voor het ministerie van Buitenlandse Zaken gewerkt. Na een studie Nederlands recht in Leiden begon hij daar helemaal onder aan de ladder in het fameuze diplomatenklasje. Vanaf 1976 zat hij eerst twee jaar op de ambassade in Ghana en vervolgens twee jaar bij de Nederlandse permanente vertegenwoordiging in het Brusselse hoofdkwartier van de NAVO. Vanaf 1980 was hij secretaris van de minister in Den Haag. In die hoedanigheid diende hij zijn voorgangers Van der Klaauw (VVD), Van der Stoel (PvdA), Van Agt (CDA) en Van den Broek (eveneens CDA).

Het was de laatste die De Hoop Scheffer warm maakte voor een politieke carrière en die zijn pupil binnen het CDA naar voren schoof. Overigens was het geen vanzelfsprekendheid dat dit de partij was waarvoor De Hoop Scheffer zich ging inzetten. Onder diplomaten hangt een sterke D66-mentaliteit, en van 1979 tot 1982 was De Hoop Scheffer ook lid van die partij. Het is hem als CDA-politicus tot vervelens toe nagedragen.

In de Tweede Kamer ontpopte De Hoop Scheffer zich vanaf 1986 als een zodanig scherp debater dat hij de bijnaam ”De Hoop Keffer” verwierf. Zolang hij zich bezighield met de buitenlandse politiek en het vreemdelingenbeleid steeg zijn ster gestaag. In 1994 stond hij al klaar om de geplaagde fractievoorzitter Brinkman op te volgen, maar toen moest hij nog de protestant Heerma laten voorgaan. Toen deze echter het vertrouwen van veel partijgenoten verloor, was de rooms-katholieke De Hoop Scheffer er in 1997 als de kippen bij om het stokje over te nemen.

Hij slaagde er niet in om in 1998 een nieuw verkiezingsechec af te wenden. Toch deed hij het als partijleider volgens vriend en vijand niet slecht. Tijdens de algemene politieke beschouwingen van vorig jaar leek hij zijn draai helemaal gevonden te hebben. Zo dacht CDA-partijvoorzitter Van Rij er echter niet over. Die stortte het CDA in een diepe leiderscrisis door flink te morrelen aan De Hoop Scheffers zetel.

De crisis leidde uiteindelijk tot het vertrek van zowel De Hoop Scheffer als Van Rij. De gevallen leider bleef nog in de Kamer, maar was op 15 mei geen kandidaat meer. Eerherstel kreeg De Hoop Scheffer al in beperkte mate toen hij op instigatie van PvdA-leider Melkert werd voorgedragen als voorzitter van de vaste kamercommissie voor buitenlandse zaken. Het echte eerherstel volgt nu op initiatief van zijn opvolger Balkenende.