Goudswaard was docent aan de Christelijke Hogere Landbouwschool. Begin jaren zeventig raakte hij betrokken op Israël. Zo nam hij deel aan de wakes die destijds voor de Russische ambassade in Den Haag werden gehouden. Het doel van de wakes was de vrijlating van Joden in de Sovjet-Unie.In 1978 verliet Goudswaard het onderwijs en werd hij directeur van Near East Ministry in Voorthuizen. Het was zijn „verlangen” om bij te dragen aan het bouwen van bruggen tussen Joden en Arabieren.

In 1996 nam Goudswaard afscheid van NEM. Na zijn afscheid bleef hij sterk betrokken op Israël. Zo organiseerde hij gebedsbijeenkomsten en hield hij regelmatig lezingen. Verder publiceerde hij een aantal boekjes over onder meer het Oude Testament en het Jodendom.

De laatste jaren was Goudswaard intensief betrokken bij de zoektocht van zijn vrouw Annie naar het graf van haar vader. Goudswaards schoonvader kwam in de Tweede Wereldoorlog in een Japans concentratiekamp om het leven.

De begrafenis van Herman Goudswaard vindt woensdagmiddag plaats op de gemeentelijke begraafplaats in Voorthuizen. Voorafgaand wordt een „dankdienst” gehouden in de evangelische gemeente De Kandelaar in Voorthuizen.