Przyszły pierwszy arcybiskup-metropolita lubelski urodził się 20 sierpnia 1921 w Łopienniku Górnym (pow. krasnystawski). Wybuch II wojny światowej zastał go na nauce w gimnazjum i liceum w Tarnowskich Górach. W latach okupacji hitlerowskiej, chcąc uniknąć wywózki do Niemiec, pracował początkowo na gospodarstwie swego ojca, a następnie w Urzędzie Gminy w swej miejscowości rodzinnej. W 1941 wstąpił w szeregi Batalionów Chłopskich (miał pseudonim „Kalina”) i jednocześnie uczył się na tajnych kursach, uzyskując w 1943 konspiracyjną maturę. Wkrótce potem rozpoczął naukę w Wyższym Seminarium Duchownym w Lublinie, które ukończył w 1948. W 1944 podjął również studia na Wydziale Teologicznym Katolickiego Uniwersytetu Lubelskiego (KUL), które ukończył w 1948 z tytułem magistra teologii.

Na kapłana wyświęcił go 29 czerwca 1948 w Lublinie ówczesny miejscowy biskup Stefan Wyszyński (późniejszy prymas Polski i kardynał). W latach 1949-53 uzupełniał studia specjalistyczne na Wydziale Teologicznym KUL-u, kończąc je doktoratem z teologii dogmatycznej. W latach 1959-60 kształcił się we Francji, w Belgii i we Włoszech, ale habilitację uzyskał w 1969 także na KUL-u.

W latach 1948-59 pracował duszpastersko w parafiach w Nałęczowie, Kłodnicy i Depułtyczach. Od 1959 był kanonikiem gremialnym kapituły katedralnej w Lublinie, a od 1966 jej dziekanem. W okresie 1952-94 był pracownikiem naukowym w Katedrze Dogmatyki Wydziału Teologicznego swej dawnej uczelni, w 1978 został profesorem nadzwyczajnym, a w 1987 profesorem zwyczajnym teologii. W 1952 rozpoczął także wykłady w swym dawnym Seminarium Duchownym w Lublinie, w którym w latach 1958-66 był wicerektorem.

14 marca 1966 Paweł VI mianował ks. prof. Pylaka biskupem pomocniczym diecezji lubelskiej; sakry udzielił mu 29 maja tegoż roku w katedrze lubelskiej miejscowy biskup Piotr Kałwa (współkonsekratorami byli biskupi: przemyski Ignacy Tokarczuk i pomocniczy lubelski Jan Mazur [późniejszy biskup siedlecki]). Hasłem biskupim nowego hierarchy są słowa: „In Te Domine speravi” (Tobie, Panie, zaufałem). W maju br. odbył się jubileusz "złotych godów biskupich" arcybiskupa. W swej diecezji bp Pylak pełnił szereg ważnych funkcji, był m.in. wikariuszem generalnym (1966-74) i kapitulnym. 9 czerwca 1975 został mianowany biskupem diecezjalnym lubelskim, a ingres do katedry odbył 20 lipca tegoż roku. Na tym stanowisku został automatycznie wielkim kanclerzem KUL-u.

Gdy w wyniku restrukturyzacji Kościoła w Polsce św. Jan Paweł II podniósł 25 maja 1992 diecezję lubelską do rangi archidiecezji i ustanowił metropolię lubelską, bp Pylak został jej pierwszym arcybiskupem-metropolitą. 29 czerwca 1992 w Bazylice św. Piotra w Rzymie przyjął z rąk Ojca Świętego paliusz metropolity.

14 czerwca 1997, mając prawie 76 lat, ustąpił ze swego urzędu i z tą chwilą przestał być również członkiem Konferencji Episkopatu Polski. Wcześniej w jej łonie był m.in. członkiem Rady Głównej KEP oraz szeregu rad i komisji. Konsekrował swych dwóch biskupów pomocniczych, nieżyjących już: Zygmunta Kamińskiego (w 1975; późniejszego metropolitę szczecińsko-kamieńskiego) i Piotra Hemperka (w 1982) oraz był współkonsekratorem pięciu innych: śp. Edmunda Ilcewicza (1969), Jana Śrutwy (1984; obecnie biskupa-seniora zamojsko-lubaczowskiego), Ryszarda Karpińskiego (1985), Mieczysława Cisły (1997) i Artura Mizińskiego (2004), a także biskupa pomocniczego szczecińsko-kamieńskiego Stanisława Stefanka (1980; obecnie biskupa-seniora łomżyńskiego) i biskupa sandomierskiego Wacława Świerzawskiego (1992; obecnie seniora).

W 1997, gdy odszedł na emeryturę, został honorowym obywatelem Lublina. W 2006 odbyło się uroczyste odnowienie jego doktoratu na KUL-u a w rok później otrzymał Medal za zasługi dla tej uczelni. W 1986 został odznaczony Krzyżem Armii Krajowej, a w 1989 Krzyżem Batalionów Chłopskich.

Obecnie jest najstarszym wiekowo i stażem katolickim biskupem polskim.