Het politieke leven van Brahimi begon al in 1956, toen hij als student actievoerde tegen het Franse koloniale bewind in zijn geboorteland. Hetzelfde jaar betrad hij ook al de diplomatieke vloer. De ‘voorlopige regering’ van Algerije, die door de onafhankelijkheidsstrijders van het Nationale Bevrijdingsfront (FLN) was gevormd, stuurde hem als gezant naar buitenlandse hoofdsteden zoals Jakarta (Indonesië).

Na de onafhankelijkheid van Algerije in 1962 werd Brahimi secretaris-generaal van het ministerie van Buitenlandse Zaken, later ambassadeur in Egypte. Daarna vertegenwoordigde hij de Arabische Liga en de Verenigde Naties op tal van missies in de wereld. In 1991 keerde hij naar huis terug om minister van Buitenlandse Zaken te worden, een functie die hij tot 1992 zou bekleden.

Internationale diplomatieke faam verwierf Brahimi als architect van het Akkoord van Taëf (1989), een belangrijke stap bij de beëindiging van de burgeroorlog in Libanon. Opeenvolgende secretarissen-generaal van de VN stuurden Brahimi daarna als ‘probleemoplosser’ naar Haïti, Zuid-Afrika, Afghanistan en Irak. In augustus 2012 nam hij het stokje van Kofi Annan over als speciaal gezant van de VN voor Syrië.