Ernst was van 1967 tot 1992 bisschop van Breda. Bij het bereiken van de 75-jarige leeftijd bood hij zijn ontslag aan. Paus Johannes Paulus II aanvaardde het ontslag, maar benoemde hem tot apostolisch administrator. In die functie bestuurde Ernst het bisdom tot 26 november 1994 toen bisschop Muskens hem opvolgde.

De huidige bisschop van Breda Monseigneur Liesen laat in een reactie weten: „In zijn nuchtere geloof en zijn toewijding aan zijn opdracht heeft Ernst veel betekend voor velen. Zijn gezondheid was broos, maar zijn geest was sterk. Bij zijn 75-jarig priesterschap in 2016 was hij nauwelijks nog mobiel, maar hij wilde heel graag de eucharistie meevieren.”