Whitehead studeerde in 1947 af aan de prestigieuze universiteit Harvard. Hij kreeg vervolgens zijn eerste baantje bij Goldman Sachs. Gaandeweg werkte hij zich omhoog. Hij besloot dat de bank ook in het buitenland actief moest worden om te kunnen groeien. Hij opende kantoren in Tokio en Londen. In 1976 kwam hij aan het roer van de bank te staan. „Hij was een man met een enorme integriteit”, zei de huidige bestuursvoorzitter van Goldman Sachs, Lloyd Blankfein.

In 1984 verliet Whitehead de bank. Hij werd onderminister van Buitenlandse Zaken onder president Reagan. Na zijn vertrek in de politiek keerde hij terug in de zakenwereld. Ook leidde hij de organisatie die Ground Zero moest opbouwen na de terreuraanslagen van 11 september 2001. Het nieuwe World Trade Center werd een paar maanden geleden in gebruik genomen.