Koop werd op 14 oktober 1916 geboren in Brooklyn, een wijk van New York. Zijn voorouders waren afkomstig uit Nederland en uit Duitsland.

Al op jonge leeftijd wilde Koop dokter worden, daartoe geïnspireerd door de huisarts van het gezin. „Eerst nadenken en dan je handen gebruiken om iemand te genezen, dat sprak me aan”, schrijft hij in zijn biografie. Als tiener opereerde hij al ratten en „geen van de patiënten ging dood.” Koop deed de artsen­studie en werd uiteindelijk kinder­chirurg, een specialisme dat in de tijd direct na de Tweede Wereldoorlog nog helemaal nieuw was. Als 29-jarige dokter kreeg hij de leiding over het team van chirurgen in het kinderziekenhuis van Philadelphia. Hij ontwikkelde onder meer een techniek om baby’s met een afgesloten slokdarm, een aangeboren afwijking, te opereren door de slokdarm met de maag te verbinden. Daardoor kon hij 500 patiëntjes het leven redden. Ook zag hij kans om kinderen met een waterhoofdje te behandelen met behulp van een drain. In 1977 kreeg hij grote bekendheid door de operatie van een Siamese tweeling met één hart, waarbij hij een van de kinderen in leven kon houden.

Koop was zeer betrokken bij zijn patiëntjes en bracht soms de nachten door aan het bed van ernstig zieke en stervende kinderen, waarbij hij ook met hen in gebed ging.

Aanvankelijk betekende het geloof voor Koop niet veel, al kreeg hij een christelijke opvoeding. In 1948 kwam er echter, onder invloed van een vriend, een verandering in zijn leven. „Door mijn opleiding geloofde ik voluit in de wetenschap, maar ik kreeg te zien dat er een hogere waarheid is. God en de wetenschap zijn geen tegenstellingen, maar aan elkaar verbonden”, zo schrijft hij in zijn biografie ”The Memoirs of America’s Family Doctor”. Koop kerkte toen in the Tenth Presbyterian Church of Philadelphia.

In 1976 verhief hij zijn stem tegen de wet die in de VS abortus legaliseerde. Hij uitte zijn zorgen in het boek ”The Right to Live, The Right to Die” (Het recht om te leven, het recht om te sterven, WvH). Koop was fel tegen het doden van ongeboren kinderen. Het vrijgeven van abortus in de VS noemde hij „de belangrijkste gebeurtenis in de Amerikaanse geschiedenis sinds de Burgeroorlog.”

Hij maakte er samen met de presbyteriaanse theoloog en filosoof Francis Schaeffer een multimediaproject over met als titel ”What happened with the human race?” (Wat gebeurde er met de mensheid?, WvH).

In 1981 benoemde president Reagan Koop tot ”surgeon general”, een topfunctie in de Amerikaanse gezondheidszorg. Reagan, zelf ook pro life, won daarmee veel steun vanuit conservatief-christelijke kringen in de VS. Voorstanders van abortus bekritiseerden de benoeming echter fel. Koop waarschuwde tegen de gevaren van roken en verdedigde de rechten van kinderen met aangeboren afwijkingen. Abortus beschouwde hij, tot teleurstelling van zijn aanhangers, als ethisch probleem en niet als kwestie waar hij in zijn nieuwe functie verantwoordelijkheid voor droeg. Koop zette zich sterk in voor de preventie van aids.