Raus presidentschap, in de jaren 1999-2004, stond in belangrijke mate in het teken van het verbeteren van de Duitse betrekkingen met Israël. Op 16 februari 2000 was hij de eerste persoon die Duits sprak in de Knesset. Dat was tegen het zere been van veel Knessetafgevaardigden. Een derde bleef daarom bewust weg uit de zaal. Toen ze in de foyer de vertaling van de eerste zinnen van Raus betoog hoorden, namen ze echter alsnog hun plaatsen in. Hij vroeg op emotionele wijze om vergiffenis voor alles wat het Duitse volk de Joden heeft aangedaan in de jaren van de Holocaust. „Voor het aangezicht van het volk Israël buig ik deemoedig het hoofd voor de vermoorden die geen graf hebben waarbij ik hen om vergeving zou kunnen vragen.” Aan het eind van zijn toespraak kreeg Rau een staande ovatie van de Knessetleden.Rau kwam in 1931 als domineeszoon ter wereld. In zijn toespraken en interviews had de belijdende christen steeds een passende Bijbeltekst paraat. Toen hem op 73-jarige leeftijd werd gevraagd naar zijn plannen voor de toekomst zei hij ogenblikkelijk: „In dit verband wil ik graag Jakobus 4 citeren. Men moet nooit zeggen dat ik morgen dit of dat zal doen, maar altijd: „Zo de Heere wil en wij leven.”

Zijn hele leven zou hij belijdend christen blijven, waarom hij vaak ”Broeder Johannes” werd genoemd - een bijnaam die hij ook zelf bezigde. Aan het in SPD-kringen meer gebruikelijke ”Genosse” (kameraad) heeft hij nooit kunnen wennen. Dat liet hij voor wat het was.

Zijn middelbare school maakte Rau niet af. Hij ging werken als journalist en kwam terecht bij een protestantse uitgever. Later ging hij als sociaaldemocraat de politiek in. De SPD’er werd in 1969 burgemeester van zijn geboorteplaats Wuppertal en in 1978 minister-president van de deelstaat Noord-Rijnland-Westfalen, een functie die hij twintig jaar lang bleef uitoefenen.

Rau deed als president van zich spreken door stelling te nemen in het debat over de integratie van minderheden in Duitsland. Hij probeerde de balans te vinden tussen enerzijds het benadrukken van respect voor buitenlanders en anderzijds het opbrengen van begrip voor de angst van sommigen voor de multiculturele samenleving. In 2003 stelde hij in een debat over het al dan niet billijken van leraressen met hoofddoekjes dat wanneer de islamitische sluier verboden wordt, dan ook christelijke en joodse symbolen niet mogen worden gedoogd.

Als president van Duitsland had Rau geen daadwerkelijke politieke macht, maar moest hij de macht van het woord gebruiken. En dat ging Rau prima af. Zelfs de scherpste critici wist hij met een afgewogen beleid van zijn gelijk te overtuigen.

Velen herinneren zich de bijdrage van Rau aan het debat over biogenetische experimenten. Volgens Rau waren het Duitse naziverleden en de vreselijke experimenten die toentertijd op mensen werden uitgevoerd reden genoeg om heden ten dage een pas op de plaats te maken. Want „als de menselijke waardigheid in het geding is, tellen economische argumenten niet”, aldus Rau.

Gezien de politieke verhoudingen zat er voor Rau geen tweede ambtstermijn in en dat terwijl 82 procent van de bevolking wilde dat hij voor een tweede termijn zou gaan. Toen hem in een interview werd gevraagd of hij makkelijk afstand kon doen van de macht antwoordde hij dat het was te vergelijken met het eten van pinda’s. „Als je ergens op een feestje bent en er staan pinda’s neem je ongemerkt twee, drie pinda’s. En al snel merk je dat je helemaal niet meer kunt stoppen.”