Hongrois de deuxième génération. Ses parents étaient Márton Horváth et Rozália (Tóth). Son frère, József P. Horváth, était également prêtre. Il a obtenu son baccalauréat à la Catholic Central High School de Hammond, puis a suivi des études de théologie au St. Lawrence Seminary, à Mt. Calvary, dans le Wisconsin, ainsi qu’au séminaire de St. Meinrad. Il a été ordonné prêtre le 6 juin 1943. Juge diocésain. Il repose au cimetière Hungarian Sacred Heart, à South Bend, dans l’Indiana.