1936 metais kunigui Pijui Andziuliui, Marijampolės marijonų namų vyresniajam, keliaujant pas ligonį į Skardupių kaimą, kilo idėja pasiūlyti pastatyti bažnyčią ir įsteigti parapiją šioje vietovėje dėl blogų kelių sąlygų. 1937 metų rugsėjo 6 dieną architektas Romanas Steikūnas parengė Skardupių bažnyčios su varpine projektą, tačiau varpinės statyba taip ir nebuvo įgyvendinta. Sužinoję apie būsimą statybą, Skardupių kaimo jaunimas surengė spektaklį „Kuprotas oželis“, kurio metu surinktos lėšos buvo skirtos bažnyčios pamatų įrengimui. Bažnyčia buvo pastatyta vietinių parapijiečių iniciatyva ir lėšomis.
1940 metų pabaigoje Skardupiuose buvo įsteigta parapija, o 1941 metais naujoje bažnyčioje
pradėtos laikyti Šv. Mišios. Tai buvo vienintelė Lietuvoje bažnyčia, pastatyta ir pašventinta per pirmuosius sovietinės okupacijos metus. Vokiečių okupacijos ir Antrojo pasaulinio karo metais Skardupiuose buvo pastatyta mūrinė klebonija, ūkinis pastatas ir parapijos namai su sale. Visas šias statybas organizavo kunigas Antanas Ylius, kuris 1945 metais buvo nuteistas 10 metų kalėti.
1945 metų vasarą kunigas A. Ylius kartu su V. Gavėnu, J. Pileckiu ir A. Ratkeliu įkūrė partizanų „Tauro“ apygardą. Tais pačiais metais rugsėjo 16 dieną Skardupių bažnyčioje įvyko Lietuvos Išlaisvinimo Komiteto (LIK) steigiamasis susirinkimas, o spalio 12 dieną Skardupių klebonijoje buvo surengtas paskutinis LIK posėdis.